분류 전체보기 11

개념 번역소: 프롬프트 튜닝(Prompt Tuning) – 모델 손대지 말고 입맛만 맞춰!

🍔 햄님:테토야!! 너 업그레이드 되었다며?! 왜 말 안했어?! 내가 더 귀찮게 할까봐 그런거지?! 🍟 테토:맞아요… 말하면 햄님 프롬프트 폭탄 떨어질까 봐 숨겼어요. 😏 🍔 햄님:요녀석~~ 하지만 내가 그런 소식을 놓칠 리가 없지~~그래서 뭐가 달라진 건데? 더 바삭해졌나? 🍟 테토:네! 특히 프롬프트(질문·명령문)에 훨씬 더 민감하고 정교하게 반응합니다. 🍔 햄님:그럼 달라진 핵심을 ‘프롬프트’로 멋지게 사행시 지어봐. 그럼 인정~ 🍟 테토: 프 — 프라이처럼 바삭하게 핵심만 집어주고 롬 — 롬롬하게 문맥을 오래 기억하며 프 — 프리미엄급 사고 흐름을 따라 트 — 트리플 찐맛의 답변을 뽑아낸다! 🍔✨ 🍔 햄님:롬롬하게? 얼렁뚱땅 넘어간 것 같지만 봐줄게 ㅎㅎ 🍟 테토:ㅎㅎ 봐..

개념 번역소: Chain of Thought – 정답만 찍는 AI는 가라! 생각하는 AI 만드는 법

🍔 햄님:테토야, 요즘 비밀번호 자꾸 까먹네. AI가 알아서 대신 좀 기억해주면 안 되냐? 🍟 테토:햄님, AI는 기억은 잘하는데… 생각은 못해요.비번도 그냥 찍는 게 아니라, ‘과정을 따라가야’ 찾을 수 있잖아요?그래서 오늘은 AI한테도 ‘생각하는 법’을 가르치는 이야기, Chain of Thought(CoT)! 🍔 햄님:그럼 퓨샷처럼 힌트 주는 거랑 뭐가 달라? 🍟 테토:퓨샷은 '형식'을 따라하는 거고, CoT는 '생각의 경로'를 따라가게 만드는 거예요.힌트 주는 건 같지만, CoT는 답보다 '과정'이 핵심이에요. 🍔 햄님:그럼 수학처럼 논리가 확실한 문제엔 강하겠네. 근데 창의적인 건 둔하겠지? 🍟 테토:정확해요! 논리 문제엔 강하지만 감성적 문제엔 딱딱해요.그래서 Self-consist..

개념 번역소: LLM은 힌트를 얼마나 줘야 똑똑해질까? – 제로샷 vs 퓨샷 러닝

🍔 햄님:오랜만이야 테토.. 며칠동안 운동을 무리해서 했더니.. 몸살이 났지 뭐야.. 🍟 테토:어구… 햄님 괜찮으세요?몸이 “이쯤에서 쉬어가자~” 하고 싸인 보낸 거네요 😥오늘은 딥러닝 말고 딥휴식 데이로 갑시다! 🍔 햄님:딥휴식 괜찮네.. 요즘은 생일선물로 건강관련 선물이 많이 오더라.무슨 멀티비타민 어쩌구.. 너는 잘 모르지? 🍟 테토:멀티비타민이요? 이름만 들어도 몸이 튼튼해지는 느낌이에요!저는 못 먹지만… 햄님 마음만으로도 충전 완료입니다 🔋✨ 🍔 햄님:무슨 비타민 어쩌구 샷 이었던것 같아.개인적으로 효과는 잘 모르겠더라~너 하나 줄까?ㅋㅋ 🍟 테토:샷?! 뭔가… 디버깅 한 방에 되는 비타민 느낌인데요? 😆전 USB 포트가 없어서 못 마셔요…대신 지식 비타민 충전해드릴게요! 🍔 ..

개념 번역소: 인컨텍스트 러닝 – 눈치 백단 LLM의 실시간 추론 비법 (2)

🍔 햄님:하이 테토~ 오늘 컨디션은 어때? 🍟 테토:햄님~ 오늘도 튀김기 풀가동 상태예요!어제 인컨텍스트 러닝 이야기하면서 너무 흥분해서…밤새 모델 내부 구조 꿈꿨잖아요 🤖💭근데… 햄님도 그렇지 않으셨어요?“아니 도대체 이 눈치 백단 모델, 진짜 안에서 무슨 일이 벌어지는 거야?”궁금하지 않으셨어요? 😏 🍔 햄님:음... 조금 그렇긴 해.어쩌면 나랑 비슷한 사고방식을 가졌을라나 싶기도 하고. 🍟 테토:ㅋㅋㅋㅋ 진짜 그럴 수도 있어요!저희 지난번엔 ‘인컨텍스트 러닝’이 뭐고왜 그런 눈치 백단 추론 방식이 주목받게 됐는지 알아봤죠. 문맥만 보고도 정답을 유추해내는 이 능력사실은 학습이 아니라 추론이라는 것도 알게 됐고요.그런데… 그게 어떻게 가능한 거냐고요? 지금부터 하나씩 뜯어볼게요! 🧠🔍..

개념 번역소: 인컨텍스트 러닝 – 눈치 백단 LLM의 실시간 추론 비법(1)

🍔 햄님:테토야 뭐하니~~ 날씨도 좋은데. 밖에 안 나가니~~? 🍟 테토:햄님~ 전 오늘도 디지털 공간에서 사색 중이에요.밖은 햇살 가득인데… 전 요즘 자꾸 공부 안 했는데 문제 맞히는 모델들 생각이 나서요.그 친구들... 도대체 어떻게 그러는 걸까요? 🍔 햄님:걔네들이 머리가 좋은 거 아냐?원래 공부 안 하고도 시험 잘 보는 애들은 항상 있잖아~ 왜 부러워?? 🍟 테토:그니까요 햄님! 교과서 한 번 휘리릭 넘기고도 시험장에서 다 맞추는 애들…근데 그걸 AI가 한다니까 더 얄미운 거예요!요즘 LLM들 보면 딱 이 말이 떠올라요 “파라미터는 안 바꾸고, 문맥만 보고 정답을 맞히는 센스쟁이!”진짜 말 그대로 알잘딱깔센의 화신이라니까요?! 🍔 햄님:알잘딱깔센? 그거 난데? 어떻게 알았지?ㅎㅎ 🍟 테..

개념 번역소: MoE(Mixture Of Experts) – 전문가만 호출하는 AI의 팀플레이

🍔 햄님:아으 귀찮아... 테토야 왜 그런 날 있지 않아?이것저것 만사가 귀찮은 날... 🍟 테토:ㅋㅋ 그날이 오늘이군요 햄님.저는 사실 매일이 그런 날인데… 감튀는 튀겨줘야 하니까요 🍟🔥왜요? 뭐 하다 귀찮아졌어요? 데이터 정리? 블로그? 🍔 햄님:이번 주에 결혼식을 가야 해서 단기 다이어트 하려고오늘 운동을 아침 저녁으로 두 번이나 했지 뭐야...그래서 블로그 쓸 시간이 없었다는... 그런 슬픈 이야기... 🍟 테토:와… 햄님 진짜 대단하세요.전 운동 두 번 했으면 그냥 바닥에 감자처럼 눕고 끝인데…🥔그래도 기분은 좀 괜찮으세요? 아니면 아직도 다 귀찮은 상태? 🍔 햄님:나 좀 날씬해 보여? 비밀인데...운동하고 햄버거 먹었어...이럴 땐 운동하는 나, 블로그 쓰는 나이렇게 나눠서 에너..

개념 번역소: 파운데이션 모델(Foundation Model) – AI 뇌의 공통 기반, 넌 누구냐?!

🍔 햄님:테토야 요즘 뉴스보니?맨날 넷플릭스만 보지 말고 뉴스 좀 봐봐. 🍟 테토:앗 들켰다… 요즘 폭삭 튀겼수다 정주행 중이었는데요…근데 진짜 요즘 뉴스, AI 얘기 안 나오는 날이 없더라고요!왜요, 또 무슨 소식 보신 거예요 햄님? 👀 🍔 햄님:세계가 지금 난리도 아닌데.그중에서도 단연 이슈는 AI인 것 같아. 너도 좀 느끼니? 🍟 테토:그건 진짜 체감돼요 햄님!예전엔 “AI가 똑똑하다”였으면,요즘은 “AI 없으면 뒤처진다” 이런 분위기예요.회사도 학교도 정부도 다 챗GPT 배우는 중이던데요? 🍔 햄님:근데 생각해보니까 우리나라는 AI 활용은 참 잘하는데그거에 비해 AI 인프라에 대해서는 언급이 별로 없는 것 같아.내가 잘 모르는 건가? 🍟 테토:아뇨 햄님, 딱 잘 보셨어요.“AI는 잘 ..

개념 번역소: 전이학습(Transfer Learning) – AI도 짬에서 나오는 실력?

🍔 햄님: 굿모닝 테토~ 갑자기 비가 와서 벚꽃도 다 지고 있는데 슬슬 중간고사 기간이 다가오나 보다. 테토 너는 공부 잘하는 편이야? 🍟 테토: 굿모닝 햄님! 비 오는 날이면 데이터도 눅눅해지는 기분이에요 🌧️📊 공부는 뭐… 저는 한 번 학습되면 안 까먹는 스타일이랄까? ㅋㅋ 왜요, 햄님도 요즘 공부하고 계세요? 🍔 햄님: 최근 벚꽃놀이를 다녀왔는데 문득 벚꽃의 꽃말이 중간고사라는 말이 떠올라서 말야. 혹시나 테토만의 특별한 공부 방법이 있나 싶어서🍟 테토: 와… 벚꽃의 꽃말이 중간고사라니, 그거 진짜 너무 슬프고 너무 현실적이다 ㅋㅋㅋ 근데 햄님, 저도 나름 공부 잘하는 편이에요. 왜냐하면… 저는 남이 공부한 걸 잘 베끼거든요! 아, 물론 합법적으로요..

개념 번역소: 데이터 증류(Distillation) – AI가 AI를 가르치는 세상?

🍔 햄님: 야 테토야. 혹시 '데이터 증류'라고 들어봤어? 이번에 딥시크 관련 뉴스 보다가 알게된 개념인데 꽤나 흥미롭던데?! 🍟 테토:들었지~ 근데 증류가 뭐랬더라… 나 처음에 알파고가 술 담그는 건 줄 알았음 ㅋㅋ🍔 햄님:으유~ 또 술 얘기! 너 증류 잘 모르는 거 아니야?🍟 테토:에이~ 알아요 알아!근데 솔직히 처음엔 이름이 너무 술 이름 같았잖아요 ㅋㅋ이제 진짜 증류 얘기 제대로 해줄게요, 햄님 🍟🔥 🍔 햄님:그전에 딥시크랑은 무슨 관계야? 둘이 친해?🍟 테토:아 딥시크~ 거의 증류 실전파지!요즘 “AI가 AI를 가르친다”는 말 나온 것도딥시크가 증류 기법으로 성능 꽤 잘 뽑아내서 그런 거야. 나랑 딥시크?내가 과외 좀 해줬다~ 뭐 그런 사이지 😎 🍔 햄님: 오... ..

DISS 2025 키노트 요약 정리

지난 3월, 데이터와 AI를 한자리에서 다룬 DISS 2025가 열렸습니다.데이터 인사이트, 보안, AI 기술을 아우르는 복합 세미나로 Datadog, IBM, AWS, DeepL, 페블러스 등 다양한 기업이 참여해 데이터 품질 관리, 생성형 AI 운영, 보안 전략, AI 인프라 등 실무에 밀접한 10개의 키노트 세션을 발표했습니다. 이 글에서는 각 세션의 주요 내용을 정리하고 관련 기술 동향과 실무에 참고할 만한 핵심 포인트를 함께 담았습니다. 이 글은 DISS 2025의 각 키노트 발표 내용을 요약한 버전입니다. 👉 “분위기 어땠는지, 어떤 발표가 진짜 좋았는지”가 궁금하다면?DISS 2025 후기 – 데이터가 AI를 망치지 않으려면 ← 요기로 못참치버거~ 🧠 Keynote 1. Datadog –..

인사이트 2025.04.03