Skip to content
Go back

360Brew: LLM-based Personalized Ranking and Recommendation - Hamed and Maziar, LinkedIn AI

Published:  at  05:21 PM
YouTube Thumbnail

영상 링크: 360Brew: LLM-based Personalized Ranking and Recommendation - Hamed and Maziar, LinkedIn AI
채널명: AI Engineer

LLM 기반 맞춤형 랭킹 및 추천 시스템: LinkedIn 360Brew 개발 여정 핵심 요약


세부 요약 - 주제별 정리

기존 추천 시스템은 개별 최적화 한계와 확장성 문제를 겪음

하나의 LLM 파운데이션 모델로 모든 맞춤형 과제 해결이라는 목표를 세움

제로샷, 인컨텍스트 학습, 사용자인스트럭션 지원 세 가지 능력을 추구

모든 사용자·이력 정보를 프롬프트로 변환하는 ‘프롬프트화’가 LLM 활용의 핵심

모델 개발은 오픈소스 LLM 기반, 대형 ‘Blue XL’ 모델 훈련–경량화–파이프라인 자동화 순으로 진행됨

모델 성능 개선의 3대 요인: 데이터 데이터량, 모델 크기, 컨텍스트 길이로 실증 분석함

콜드 스타트·일반화 성능 등 실제 추천 시스템 주요 난제를 기존 모델 대비 우수하게 해결함

추천 시스템 서빙(Serving)에서 고QPS·저지연 달성을 위한 다단계 최적화 전략을 도입함

모델 일반화 및 품질은 50~60개 내·외부 태스크 벤치마크로 주기적·체계적으로 평가함

LLM 기반 추천 시스템은 타 서비스(부동산 리스트 등)에도 보편 적용 가능하지만, 현재 즉시 쓸 수 있는 오픈모델은 부족함

프롬프트 내 후보(추천 항목) 다중 스코어링은 내부적으로 마스킹과 전산최적화 커널로 처리함

사용자 히스토리의 입력 방식은 주로 최신순(chronological order)을 활용하고, 긍정·부정 샘플 균형 등 ML 엔지니어링으로 세부 튜닝함

다수의 반복 실험·최적화가 가능한 엔드-투-엔드 자동화 인프라와 오픈소스 연동이 강점



수정 요청하기

Previous Post
What We Learned from Using LLMs in Pinterest - Mukuntha Narayanan, Han Wang, Pinterest
Next Post
Netflix's Big Bet: One model to rule recommendations: Yesu Feng, Netflix