위클리 NLP

위클리 NLP

Week 35 - 모델 중심에서 데이터 중심의 AI 개발로

이 글은 DeepLearningAI에서 주최한 앤드류 응 교수의 A Chat with Andrew on MLOps: From Model-centric to Data-centric AI 세미나에 대한 리뷰입니다. 어느 분야이든 주목 받는 역할이 있기 마련입니다. 축구 팀에서는 스트라이커, 밴드에서는 보컬, 회사에서는 CEO, 드라마에서는 주연이 사람들의 시선과 관심을 비교적 많이 받습니다. 하지만 조금만 깊게 알아보면 이 슈퍼스타 뒤에는

위클리 NLP

Week 34 - 즉흥 연극 기법으로 AI 챗봇을 학습시킨다면?

<위클리 NLP>에서는 지난 몇 주 동안 AI 챗봇에 대해서 다루면서 구글, 페이스북, OpenAI 같은 거대한 기업들의 연구를 많이 인용해왔습니다. 이러한 큰 기업들은 거대한 데이터와 엄청난 컴퓨팅 파워를 가지고 있기 때문에 스케일이 큰 혁신을 이루는 데 우위가 있고, 그 결과에 따른 관심도 많이 받고 있습니다. 물론 이러한 선도적인

위클리 NLP

Week 33 - 문제가 될 것을 미리 알았어야 했다 <AI 챗봇과 윤리 2편>

Why We Should Have Seen That Coming, 학회에 발표된 논문치고는 굉장히 특이한 제목입니다. 직역을 하자면, "왜 우리는 그것이 올 것을 이미 봤어야 했다," 즉 우리는 문제가 될 것을 미리 알았어야 했다는 것이죠. 이 논문은 바로 2016년에 공개되었다 24시간 만에 내린 마이크로소프트의 테이(Tay) 이슈에 대해 이야기합니다. 당시에도 많은

위클리 NLP

Week 32 - AI 챗봇이랑 윤리랑 무슨 상관인데? <개인정보 편>

누구나 심심하거나 외로울 때 대화를 해줄 수 있는 AI. 영화 <Her>의 사만다를 떠올리게 하는 제품 이루다 는 2021년 우리에게 AI에 대해 새로운 방향으로 생각해 볼 계기가 되었다고 생각합니다. 결국에는 여러 논란으로 인해 이루다는 서비스가 중단 되었습니다만, 이 논란이 남긴 여러 문제는 한번 짚고 넘어가야 할 가치가 있습니다.

위클리 NLP

Week 31 - 이루다 같은 챗봇은 어떤 원리로 작동하는 걸까?

2021년 1월 새해가 밝자마자 한국 스타트업 업계에 자연어처리(NLP)가 화두로 떠올랐습니다. 바로 스캐터랩이라는 회사가 공개한 이루다라는 챗봇 때문입니다. "너와 매일 일상을 나누고 싶어! 나랑 친구할래?"라는 슬로건으로 나와 항상 친구처럼 대화를 할 수 있는 AI를 지향한 이 제품은 상당히 인간 같은 대화를 구사하는 것으로 관심을 끌었습니다. 많은

위클리 NLP

Week 30 - 세상을 놀라게 한 GPT가 NLP 연구에 던지는 방향은?

"난 인간을 전멸시키지 않을 것"...가디언지에 컬럼 쓴 GPT3 지구 최강 인공지능 인터뷰...거짓말도 지어냈다, 섬뜩했다 "AI는 절대 인간 파괴하지 않는다"며 인간 설득하기 시작한 2020년 '인공지능' 이번에 발표된 GPT3는 전세계적으로 정말 많은 관심을 끌고 있습니다. 개인적으로 너무 인류 종말적인 sci-fi적인 상상력만 자극시키는 헤드라인을

위클리 NLP

Week 29 - 드디어 인간을 끝장낼 AI가 나왔다? GPT!

아래 답변은 사람이 아니라 AI 모델이 자동으로 생성한 글입니다. (영어에서 한국어로 번역) Q : 40 대 초반에 노안이있었습니다. 어떻게해야합니까? A : 예전에는 신문을 읽는 것과 같이 좀 더 가까운 작업을 위해 돋보기를 가지고 있었을 것입니다. Q : 40 대 초반이라 사람들이 돋보기를 사용하는 것이 이상하다고 생각할 것 같아요. 다른 대안이 있습니까? A : 노력할

위클리 NLP

Week 28 - BERT만 잘 써먹어도 최고가 될 수 있다?

NLP를 공부하시는 분들 중에 GPT나 BERT 같이 최근에 나온 무지막지하게 큰 언어 모델을 처음 공부하면 대부분 반응이 이렇습니다. "와 쩐다... 성능이 엄청나네." (감탄) "이거 뭐 이 정도면 NLP에서 더 할 수 있는게 있나.." (우울) "스케일도 대단하네. 데이터도 미친듯이 많고, 몇십 억씩 들여야 이런 모델이 학습되네.

위클리 NLP

Week 27 - 전에 배운걸 잘 써먹어야 산다 Transfer Learning

운동 신경이 좋은 친구들은 새로운 스포츠를 배워도 몇 번만 해보면 금방 어느 정도 잘하고는 합니다. 평소에 책을 많이 읽던 친구들은  따로 준비하지 않아도 독해 시험에서 좋은 점수를 받습니다. 음감이 좋은 친구들은 곡을 한번 듣고도 바로 비슷하거나 더 듣기 좋은  연주를 해냅니다. 벌써 2개의 외국어를 할 줄 아는 친구는 또 다른

위클리 NLP

Week 26 - ML 연구에도 네이밍 마케팅이 중요하다? BERT!

회사든 제품이든 아티스트 이름이든, 잘 지은 이름의 영향력은 대단한 것 같습니다. 매일 수천수만 개의 새로운 것이 쏟아 나오는 요즘 세상에 사람들 머릿속에 각인되는 게 그만큼 쉽지 않은데 말이죠. 근데 논문의 이름을 잘 지어서 대박이 난다? 동네 맛집도 아니고 보통 사람들은 평소에는 관심도 없는 NLP 논문을, 그것도 Google AI 연구 팀이

위클리 NLP

Week 25 - NLP의 옵티머스 프라임, Transformer 등장!

반바지를 입고 아이스크림을 들고 있던 아이는 그것을 금방 다 먹었다. 여기서 그것은 무엇을 가리키는 걸까요? 설마 아이가 반바지를... 번역을 하다보면  대명사 때문에 애먹는 경우가 많습니다. 그것이 무엇인지 유추하려면 앞에 있는 "아이스크림"과 뒤에 있는 "먹는다"라는 두 단어를  동시에 고려해야 합니다. 인간은 그냥 주르륵 읽기만 해도

위클리 NLP

Week 24 - 나 대신 아이한테 그림 책 읽어주는 AI가 나올까

요즘은 아이들의 상상력을 자극하기 위해 아예 글이 없는 그림 책이 인기라고 합니다. 아이들이 글보다는 그림에 집중하게 되어 자연스럽게 질문을 던지고 스토리를 같이 만들어 가는 형식이 좀 더 뇌발달에 효과적일 수 있겠죠. 근데 읽어주는 부모 입장에서는 훨씬 고난이도 과제가 아닐까 싶습니다. 텍스트가 없으니 스토리를 직접 지어 내야 하기도 하고, 모든 페이지에