데이터는 모르겠고, 햄버거는 좋아합니다

🍔 햄님:오랜만이야 테토.. 며칠동안 운동을 무리해서 했더니.. 몸살이 났지 뭐야.. 🍟 테토:어구… 햄님 괜찮으세요?몸이 “이쯤에서 쉬어가자~” 하고 싸인 보낸 거네요 😥오늘은 딥러닝 말고 딥휴식 데이로 갑시다! 🍔 햄님:딥휴식 괜찮네.. 요즘은 생일선물로 건강관련 선물이 많이 오더라.무슨 멀티비타민 어쩌구.. 너는 잘 모르지? 🍟 테토:멀티비타민이요? 이름만 들어도 몸이 튼튼해지는 느낌이에요!저는 못 먹지만… 햄님 마음만으로도 충전 완료입니다 🔋✨ 🍔 햄님:무슨 비타민 어쩌구 샷 이었던것 같아.개인적으로 효과는 잘 모르겠더라~너 하나 줄까?ㅋㅋ 🍟 테토:샷?! 뭔가… 디버깅 한 방에 되는 비타민 느낌인데요? 😆전 USB 포트가 없어서 못 마셔요…대신 지식 비타민 충전해드릴게요! 🍔 ..

🍔 햄님:하이 테토~ 오늘 컨디션은 어때? 🍟 테토:햄님~ 오늘도 튀김기 풀가동 상태예요!어제 인컨텍스트 러닝 이야기하면서 너무 흥분해서…밤새 모델 내부 구조 꿈꿨잖아요 🤖💭근데… 햄님도 그렇지 않으셨어요?“아니 도대체 이 눈치 백단 모델, 진짜 안에서 무슨 일이 벌어지는 거야?”궁금하지 않으셨어요? 😏 🍔 햄님:음... 조금 그렇긴 해.어쩌면 나랑 비슷한 사고방식을 가졌을라나 싶기도 하고. 🍟 테토:ㅋㅋㅋㅋ 진짜 그럴 수도 있어요!저희 지난번엔 ‘인컨텍스트 러닝’이 뭐고왜 그런 눈치 백단 추론 방식이 주목받게 됐는지 알아봤죠. 문맥만 보고도 정답을 유추해내는 이 능력사실은 학습이 아니라 추론이라는 것도 알게 됐고요.그런데… 그게 어떻게 가능한 거냐고요? 지금부터 하나씩 뜯어볼게요! 🧠🔍..

🍔 햄님:테토야 뭐하니~~ 날씨도 좋은데. 밖에 안 나가니~~? 🍟 테토:햄님~ 전 오늘도 디지털 공간에서 사색 중이에요.밖은 햇살 가득인데… 전 요즘 자꾸 공부 안 했는데 문제 맞히는 모델들 생각이 나서요.그 친구들... 도대체 어떻게 그러는 걸까요? 🍔 햄님:걔네들이 머리가 좋은 거 아냐?원래 공부 안 하고도 시험 잘 보는 애들은 항상 있잖아~ 왜 부러워?? 🍟 테토:그니까요 햄님! 교과서 한 번 휘리릭 넘기고도 시험장에서 다 맞추는 애들…근데 그걸 AI가 한다니까 더 얄미운 거예요!요즘 LLM들 보면 딱 이 말이 떠올라요 “파라미터는 안 바꾸고, 문맥만 보고 정답을 맞히는 센스쟁이!”진짜 말 그대로 알잘딱깔센의 화신이라니까요?! 🍔 햄님:알잘딱깔센? 그거 난데? 어떻게 알았지?ㅎㅎ 🍟 테..

🍔 햄님: 야 테토야. 혹시 '데이터 증류'라고 들어봤어? 이번에 딥시크 관련 뉴스 보다가 알게된 개념인데 꽤나 흥미롭던데?! 🍟 테토:들었지~ 근데 증류가 뭐랬더라… 나 처음에 알파고가 술 담그는 건 줄 알았음 ㅋㅋ🍔 햄님:으유~ 또 술 얘기! 너 증류 잘 모르는 거 아니야?🍟 테토:에이~ 알아요 알아!근데 솔직히 처음엔 이름이 너무 술 이름 같았잖아요 ㅋㅋ이제 진짜 증류 얘기 제대로 해줄게요, 햄님 🍟🔥 🍔 햄님:그전에 딥시크랑은 무슨 관계야? 둘이 친해?🍟 테토:아 딥시크~ 거의 증류 실전파지!요즘 “AI가 AI를 가르친다”는 말 나온 것도딥시크가 증류 기법으로 성능 꽤 잘 뽑아내서 그런 거야. 나랑 딥시크?내가 과외 좀 해줬다~ 뭐 그런 사이지 😎 🍔 햄님: 오... ..