1. AI Research Flow
딥러닝 연구의 흐름
제프리 힌튼, 요슈아 벤지오, 얀 르쿤
배관공을 준비해라..
힌튼, 벤지오: ai 관련 경고를 많이 하고 있음
르쿤: AI 긍정론자 (메타에서 일하고 있기 때문..?)
transformer/llm으로는 agi 도달 불가능
Fei-Fei Li: 산업보다 잘 할 수 있는 것을 해라 - Science + AI, AI Theory 등
딥러닝 거장들이 safety 관련 언급도 많이 하고 연구를 많이 하는거 같네요
2. 창업 경험 공유
미국 벤처 시장은 매우 활발하다
국내는 국가 견인 생태계
근본적으로 시스템이 다름
Self-attention mechanism: llm이 컨텍스트 창 내의 토큰을 처리하는데 사용
컨텍스트 창 크기 -> 모델이 한번에 계산할 수 있는 최대 토큰 수
모델 차별화를 하는 방법
• interleaved reasoning, context/memory 관리 등
서비스 너무 좋네요