Wait a moment...
안녕하세요, Jay 입니다. 인공지능과 웹 기술의 교차점에서 새로운 가치를 만듭니다.코드 속에 담긴 논리와 일상 속에 숨은 영감을 기록합니다.
이번 글에서는 WWW 2026에 발표된 “Iterative Semantic Reasoning from Individual to Group Interests for Generative Recommendation with LLMs” 논문을 정리한다. 이 논문에서 제안하는 모델의 이름은 ISRF(Iterative Semantic Reasoning Framework)다. 핵심 아이디어를 먼저 한 문장으로 정리하면 다음과 같다. 사용자가 직접 보여준 행동만으로 관심사를 모델링하는 데서 그치지 않고, 상품의 의미를 추론한 뒤 의미적으로 비슷한 사용자 집단의 행동까지 ...
Large-batch training이 높은 학습 정확도에도 테스트 성능이 낮아지는 이유를 sharp·flat minima와 mini-batch gradient noise 관점에서 정리한다. Local minimum에 대한 오해와 논문의 실험 결과도 함께 살펴본다.
깊은 신경망이 잘 학습되지 않는 원인을 Sigmoid 포화와 Vanishing Gradient 관점에서 살펴본다. 순전파와 역전파의 분산 보존 조건을 통해 Xavier 초기화 공식이 도출되는 과정과 실제 효과를 정리한다.
최근 연구실에서 양자 커널과 관련된 연구를 진행하고 있다. 양자 역학 등 양자에 대해서 많은 것들을 알고 있지 않아, 어려움이 따르지만 Low Level 단에서 부터 하나씩 파악하며 정복해나가려고 한다. 양자 머신러닝은 단순히 코드를 돌리는 것이 아니라, 고전 데이터를 양자 공간으로 쏘아올린 뒤, 다시 고전적인 정답으로 끌어내리는 과정이다. 그 과정에 대해서 데이터가 어떠한 변화를 거치는 지 확인해보고자 ...