1. AI Research Flow
AI 연구의 역사, 2025년 AI 연구 흐름, 1세대 pioneer이신 제프리 힌턴 형님, 요슈아 벤지오 형님, 얀 르 형님의 업적을 짚어주셨다.
2세대 연구자 이신 앤드류 응 형님, 페이페이 리 누님, 데미스 하사비스 형님의 연구업적과 근황을 짚어주셨다. 페이페이 리 누님 께서는 AI 학계에 입문하고 싶다면 산업계에 연구가 많이 쏠려 있으니 산업계와 가까운 연구를 하던지, 원론적 연구를 하던지, 산업계에 들어가라는 조언을 해주셨다. 하사비스 형님은 딥마인드를 만드셨는데, 그 유명한 알파고를 만드신 형님이었다. 알파폴드로 노벨화학상도 타셨다.
3세대 연구자로는 애쉬시 바스와니 형님, 이안 굿펠로우 형님, 일리아 수츠케버 형님의 업적과 근황을 짚어주셨다.
4세대 연구자로는 조나단 호 형님, 트리 다오 형님, 댄 핸드릭스 형님의 업적과 근황을 짚어주셨다.
전반적으로 다들 대단한 업적을 세우고도 거기서 안주하지 않고, 본인들의 꿈을 찾아 떠나는 경향을 보였다. 나이드신 분들은 정치나 사회 운동쪽으로 전향하셔서 AI가 사회에 미치는 영향에 관심을 많이들 가지시는 것 같다. 특히 대부분의 대가 분들이 AI가 사회에 미칠 수 있는 악영향을 굉장히 경계하는 것 같고, 다들 안전한 AI를 만들고 싶어한다.
주요 학회들의 논문 제출 수와 accept 수를 보여주었는데, 생각보다 accept을 많이 해줘서 놀랐다.
2. 창업 경험 공유: LLM 스타트업
투자를 받았다!! 축하합니다. 다양한 기업들과 제휴도 맺었다고 한다. 기업들이 투자를 어떻게 받는지에 대해 설명해주셨는데, 굉장히 유익했다. 요새 돈을 주는 주는 사람들 입장에서는, 제품 만드는게 너무 쉬워서 진짜 좋은 제품인지 알아보고, 글로벌로 확장이 가능한지 확인하는 과정을 거치는 추세라 옛날보다는 쪼끔 쉽지 않아졌다.
context window size → 모델이 텍스트를 생성하거나 이해할 때 입력으로 받을 수 있는 양이다.
토크나이저는 같은 문장이더라도 영어일 때 더 적은 토큰을 생성하는 모습을 보이고, 더 잘한다고 한다. 때문에 프롬프팅을 할때도 영어로 하는 것이 좋다고 한다. 영어 공부 열심히 해야겠다