Recommender System/논문 및 블로그 리뷰16 LLM with Recommender System 논문 리뷰 - 1부 [M6-Rec: Generative Pretrained Language Models are Open-Ended Recommender Systems] 원문 보기 : https://arxiv.org/pdf/2205.08084.pdf 오랜만에 추천 관련 기술 논문을 두 개 정도 읽게 됐다. 업무 연차가 올라가다보니, 새로운 기술을 접목하거나 논문을 읽어보는 데 할애하는 시간이 점점 줄어들고, 도메인과 서비스에 적용되는 루틴한 개발이나 킬러 피쳐 발굴에만 몰두하게 된다. 그래서 새로운 기술이나 논문을 알아보는 시간이 점점 없어지는 것 같다. 그래도 곁눈질로 종종 들여다보곤 하는데, 요즘 많이 언급되는 추천시스템 관련 기술 동향은 크게 2가지 꼭지가 있다고 생각한다. 하나는 GNN-based 모델이고, 또 하나는 Transformer(BERT)를 기반으로 하는 Sequential Recommendation 이다. 한 2~3년 전에도 이 생각을 똑같이 했었던 .. 2023. 5. 22. [Graph Convolutional Neural Networks for Web-Scale Recommender Systems] 번역 & 리뷰 원문 보기 : https://arxiv.org/abs/1806.01973 Graph Convolutional Neural Networks for Web-Scale Recommender Systems Recent advancements in deep neural networks for graph-structured data have led to state-of-the-art performance on recommender system benchmarks. However, making these methods practical and scalable to web-scale recommendation tasks with billions of items a arxiv.org 0. Abstract 최근 추천시스템.. 2021. 6. 3. [Uber Engineering 블로그 리뷰 & 번역 - Food Discovery with Uber Eats: Using Graph Learning to Power Recommendations] 이번에는 GNN(Graph Neural Network) 관련 임베딩 시스템을 우버잇츠에서는 어떻게 활용했는지에 관한 내용이다. 지난 포스팅들보다는 다소 기술적인 내용이 포함되어 있어 조금 더 흥미롭다. 요번 포스팅 역시 원문에 주관적 해석을 약간 덧붙인 번역문에 가까우니, 영어가 자신있는 분은 원문을 읽는 것을 권장한다. https://eng.uber.com/uber-eats-graph-learning/ 1. Graph learning in a nutshell UberEats의 추천 모델을 제대로 이해하려면, Graph Learning의 동작 방식을 이해할 필요가 있다. 대부분의 ML Task는 그래프 구조의 노드를 표현하는 학습방법을 사용할 수 있다. 노드의 표현이라는 것은 encode properti.. 2021. 5. 28. [Uber Engineering 블로그 리뷰 & 번역 - How Trip Inferences and Machine Learning Optimize Delivery Times on Uber Eats] 지난 포스팅들보다 앞서 블로그에 게재된 내용으로, Uber Eats 에서 ETA, ETD 등을 추정하는 모델에 대한 내용을 설명하는 포스팅이다. 마찬가지로 이번 포스팅 역시 원문에 주관적 해석을 약간 덧붙인 번역문에 가까우니, 영어가 자신있는 분은 원문을 읽는 것을 권장한다. https://eng.uber.com/uber-eats-trip-optimization/ How Trip Inferences and Machine Learning Optimize Delivery Times on Uber Eats Using GPS and sensor data from Android phones, Uber engineers develop a state model for trips taken by Uber Eats de.. 2021. 5. 25. [Uber Engineering 블로그 리뷰 & 번역 - Food Discovery with Uber Eats: Recommending for the Marketplace] 지난 포스팅이 우버잇츠의 검색/추천 에서 에 초점을 맞춘 포스팅이었다면, 이번 포스팅은 2부작 성격을 띠며 개인화와 추천에 조금 더 초점을 맞춘 내용이다. 그 중에서도 최적화 모델과 그 구조에 대해 이야기한다. 이 글 역시 마찬가지로 원문에 주관적 해석을 약간 덧붙인 번역문에 가까우니, 영어가 자신있는 분은 원문을 읽는 것을 권장한다. https://eng.uber.com/uber-eats-recommending-marketplace/ 1. Our recommender system's journey Uber Eats의 추천/랭킹 모델의 초기버전 에서는 유저-레스토랑의 주문 발생 확률을 모델링하는 single objective optimizing을 사용했다고 한다. 그리고 점차 ML, Personaliza.. 2021. 5. 21. [Uber Engineering 블로그 리뷰 & 번역 - Food Discovery with Uber Eats: Building a Query Understanding Engine] 본 포스팅은 Uber Engineering 블로그에 게재되어 있는 Uber Eats와 관련된 Article 들을 읽어보면서 주관적 해석을 약간 덧붙인 번역 포스팅이다. 원문과 내용이 크게 다르지는 않으니, 영어가 편한 분들은 원문의 글을 읽는 것을 추천한다. https://eng.uber.com/uber-eats-query-understanding/ Food Discovery with Uber Eats: Building a Query Understanding Engine Uber engineers share how we process search terms for our Uber Eats service, using query understanding and expansion to find restaura.. 2021. 5. 13. [Recommender System] - Graph Convolutional Matrix Completion 번역 & 리뷰 1. Intro 이 논문은 recommender system에서의 matrix completion 문제를 "link prediction on graph" 관점으로 바라본 내용을 서술하고 있다. 핵심 아이디어를 하나 예로 들면, user-item rating matrix를 user-item의 이분그래프로 표현할 수 있다는 것이다. 그리고 이를 graph auto-encoder 프레임워크에 응용하는 것을 제안한다. 논문에서 표현한 전체적인 그림은 아래와 같다. 2. Matrix completion as link prediction in bipartite graphs 그래프로 기존의 Rating Matrix를 표현하는 방식은 다음과 같다. W는 User와 Item의 집합을 나타내는 기호이고, E는 Edge 정.. 2020. 12. 29. YouTube Recommendation system 트릴로지 리뷰 - [3] 이전 포스팅 보기 더보기 YouTube Recommendation system 트릴로지 리뷰 - [1] YouTube Recommendation system 트릴로지 리뷰 - [1] 본 포스팅은 2010, 2016, 2019에 발표한 유튜브의 추천시스템 자료를 리뷰한 것이다. 3부작이 끝이 아님에도 트릴로지라는 이름을 붙인 것은, 필자에게는 이 자료들이 매트릭스 3부작이나 반지의제왕 3부작 만큼이.. yamalab.tistory.com https://yamalab.tistory.com/124 YouTube Recommendation system 트릴로지 리뷰 - [2] YouTube Recommendation system 트릴로지 리뷰 - [1] 이번에 리뷰할 자료는 으로, 2016년에 발표된 것이다. .. 2020. 2. 11. Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Experts 리뷰 본 포스팅은 YouTube recommendation system 트릴로지 리뷰(링크) 중, 스핀오프 영화 같은 개념이라고 생각하면 좋다(..). 본래 multi-task learning은 딥러닝 분야에서 많이 사용되던 방식인데, 저자가 아마도 유튜브의 추천시스템에 대해 연구하다가 multi-task model의 필요성을 느꼈던 것 같다. 사실 논문에 나와있는 그림만 봐도 어떤 것을 하려는지 대강 짐작할 수 있는 내용이기 때문에, 논문을 아주 자세히 읽어볼 필요는 없다고 생각한다. 다만 유튜브 추천시스템 논문들을 제대로 읽고 싶은 사람이라면 이 논문 역시 주의깊게 봐야한다. 본 포스팅에서는 아주 간략한 내용만 소개하고자 한다. 1. 모델의 대략적인 구성은 아래 그림과 같다. MMoE는 그림 왼쪽에 있는 .. 2020. 2. 10. YouTube Recommendation system 트릴로지 리뷰 - [2] YouTube Recommendation system 트릴로지 리뷰 - [1] 이번에 리뷰할 자료는 으로, 2016년에 발표된 것이다. 이 자료는 당시에 나오자 마자 읽어봤던 자료인데(물론 우연이었다), 추천시스템에 막 관심을 가지기 시작했을 때 생애 처음(..)으로 제대로 읽어본 '논문' 비스무레한 것이다. 복잡한 수식도 나오지 않고 intuitive 하면서도 흥미로운 내용이라 지금 읽기에는 무척 재미난 논문이지만, 당시에는 딥러닝은 커녕 머신러닝의 'ㅁ' 자도 모르던 학부생 시절이었기 때문에 끝까지 읽는데 아주 애를 먹었던 기억이 있다. 게다가 2016년에는 추천시스템에 대한 자료 자체가 다소 귀한 편이었기 때문에(물론 지금도 넉넉치는 않다), 개념을 잡아주고 트렌드를 파악하기에 매우 도움이 됐었다... 2020. 2. 4. 이전 1 2 다음
