Wait a moment...
안녕하세요, Jay 입니다. 인공지능과 웹 기술의 교차점에서 새로운 가치를 만듭니다.코드 속에 담긴 논리와 일상 속에 숨은 영감을 기록합니다.
확률과 통계를 공부하다 보면 가장 먼저 등장하는 핵심 개념 중 하나가 Random Variable, 확률변수이다. 이름만 보면 ‘무작위로 변하는 변수’처럼 느껴지지만, 수학적으로 확률변수는 단순한 숫자가 아니라 확률 실험의 결과를 숫자로 대응시키는 함수(Function)이다. Expectation, Variance, Probability Distribution 같은 이후의 개념들은 모두 확률변수를 대상으로 정의된다. 따라서 확률변수가 정확히 무엇인지 이해하는 것이 확률·통계 공부의 출발점이라고 볼 수 있다. 확률 ...
이번 글에서는 WWW 2026에 발표된 “Iterative Semantic Reasoning from Individual to Group Interests for Generative Recommendation with LLMs” 논문을 정리한다. 이 논문에서 제안하는 모델의 이름은 ISRF(Iterative Semantic Reasoning Framework)다. 핵심 아이디어를 먼저 한 문장으로 정리하면 다음과 같다. 사용자가 직접 보여준 행동만으로 관심사를 모델링하는 데서 그치지 않고, 상품의 의미를 추론한 뒤 의미적으로 비슷한 사용자 집단의 행동까지 ...
Large-batch training이 높은 학습 정확도에도 테스트 성능이 낮아지는 이유를 sharp·flat minima와 mini-batch gradient noise 관점에서 정리한다. Local minimum에 대한 오해와 논문의 실험 결과도 함께 살펴본다.
깊은 신경망이 잘 학습되지 않는 원인을 Sigmoid 포화와 Vanishing Gradient 관점에서 살펴본다. 순전파와 역전파의 분산 보존 조건을 통해 Xavier 초기화 공식이 도출되는 과정과 실제 효과를 정리한다.