위클리 NLP

Week 47 - BERT와 GPT 같은 기초 모델이 가진 위험 요소는?

어떤 강력한 기술이 나올 때는 그로 인한 축복과 재앙이 함께 오는 것 같습니다. 원자력이라는 엄청난 에너지 솔루션이 개발된 후에는 우리에게 그 어떤 다른 수단보다 효율적인 전기 발전 수단으로 쓰이고 있기도 하지만, 전쟁을 위한 무자비한 살상 무기로 사용되어 끔찍한 역사를 만들어 내기도 했죠. 과연 AI/ML 기술은 인류 역사에 어떤 변화를

위클리 NLP

Week 46 - 4차산업혁명의 토대가 되고 있는 FOUNDATIONAL MODEL이란?

수십 년, 수백 년에 한번씩 여러 산업을 통째로 바꾸는 기술이 나옵니다. 증기 기관이 그랬고, 전기가 그랬습니다. 인공지능(AI) 역시 그럴 것이라고 최근 몇 년째 모두들 이야기하고 있죠. 하지만 AI라는 단어는 이미 수십 년간 존재해왔고, 정확히 무엇을 의미하는지 매우 모호합니다. 도대체 구체적으로 어떤 것이 세상을 바꾼다는 것일까요? 위클리 NLP에서는 그동안 언어

위클리 NLP

Week 45 - 한국어 최강 언어모델 등장! HYPERCLOVA 리뷰

GPT-3의 공개가 세상을 놀래킨지 1년 정도의 시간이 지났습니다. 엄청난 모델 스케일 뿐만 아니라, 이 모델을 이용한 다양한 응용 케이스들이 많은 관심을 끌고 있습니다. 그만큼 NLP라는 분야에 큰 획을 긋고 있고, 앞으로의 발전이 더 기대되는 연구가 바로 GPT입니다. 그런데 지금까지 공개된 GPT의 단점은 영어 중심이라는 것입니다.  인터넷에서 텍스트를 크롤링해서 얻는 방식으로

위클리 NLP

Week 44 - 하나의 문장을 언어학적으로 해부해볼까: DP, POS, NER

여러 문장이 모여 문단이 되고, 문단이 모여 글이 됩니다. 우리는 매일 같이 다양한 글을 읽는데, 하나의 문장은 어떻게 구성되어 있는지 생각을 하고 읽지는 않습니다. 그렇게 된다면 독서는 굉장히 피곤한 활동이 되겠죠. 이처럼 인간은 문장을 보자마자 즉시 구조를 파악하고 중요한 키워드를 뽑아 내는 능력을 가졌습니다. 이 두 가지는 문장의 의미를 이해하는데

위클리 NLP

Week 43 - 벤치마크 데이터 셋 그리고 KLUE

인간사는 경쟁을 빼놓고는 이야기할 수 없습니다. 큰 패권 국가 간의 전쟁만 보아도 역사의 흐름을 파악할 수 있습니다. 평화의 화합의 장이라는 올림픽도 결국 전세계 각 국가에서 엄청난 경쟁을 뚫고 온 선수들의 최종 대회입니다. 이번 올림픽 때는 금메달 지상주의가 좀 줄어들었다고 하지만, 승리한 선수들이 더 많은 스포트라이트를 받게 되는 건 어쩔 수

위클리 NLP

Week 42 - 사물 인식 모델의 한계를 NLP로 깨부수는 CLIP!

Week 36에서 AI가 인간 수준으로 세상을 이해하려면 단순히 텍스트 뿐만 아니라 여러 가지 인지(Perception) 데이터를 다룰 수 있어야 한다고 얘기를 하였습니다. 이것의 첫걸음은 텍스트와 이미지를 함께 이해하는 모델을 만드는 것이죠. 그래서 Week 40부터는 NLP과 Computer Vision 함께 다루는 연구에 대해 소개하고 있습니다. 이렇게 텍스트와 이미지 같이 다른 형태의 인풋을

위클리 NLP

Week 41 - CSI 과학수사대가 탐낼만한 NLP + Vision 기술

저는 아이언맨이나 베트맨 같은 히어로물보다 미국 TV 드라마 CSI 과학수사대 시리즈를 더 좋아합니다. 보면서 과학 기술이 범죄자들을 잡아내는 것에 희열을 느낍니다. 특히 지문 같은 어떤 증거를 가져와서, DB 검색을 돌리는 장면, 특히 큰 화면에 엄청난 양의 데이터가 후루룩 지나가다가 "매치"라고 나오는 비주얼이 너무 멋있었죠. "잡았다 요놈&

위클리 NLP

Week 40 - 내가 말하는 걸 보여줘, DALL-E

주변에 디자이너 친구들과 얘기를 하면 분명 회의에서 원하는 것을 잘 상의하고 말로 정리를 잘했는데, 그걸 비주얼로 만들어 나온 것을 공유하면, 상사가 "아니, 내가 원했던 건 그게 아니고..."하는 경우가 많다고 합니다. 그만큼 글이나 말로 된 언어와 시각적으로 표현된 비주얼 언어에는 큰 차이가 있다는 것을 알 수 있습니다. 근데

위클리 NLP

Week 39 - AI로 팔 수 없는 것들

AI 기반 XXX 스타트업. AI 기반 XXX 제품. 이제는 인공지능(AI)를 앞에 붙이지 않은 스타트업이나 제품이 거의 없다시피 합니다. 몇 년 전에는 "빅데이터"가 이러한 역할을 했었죠. 간단한 규칙기반 알고리즘이든 통계 모델이든, 딥러닝이든, AI 기반이라고 할 수 있는 것의 경계선이 어디서부터 어디인지 잘은 모르겠지만 중요한지 않습니다. 그만큼

위클리 NLP

Week 38 - [팩트체크] NLP로 가짜 뉴스 거르는게 가능할까?

빠름빠름 LTE를 넘어 5G 네트워크 세상이 되었습니다. 이렇게 통신 기술이 빨리 발전하다보니깐 손 안에서 동영상을 어디서든 기다리지 않고 볼 수 있다는 장점도 있지만, 악성웨어나 바이러스가 우리 주머니 속의 스마트폰으로도 침투할 수 있다는 단점도 있겠지요. 2020년 4월, 영국에서는 몇몇 분들이 화를 주체하지 못한 나머지 네트워킹용 장비를 불태우는 일까지 벌어졌습니다. 이러한 네트워크

위클리 NLP

[1주년 Q&A] 어떻게 하면 NLP 공부를 더 깊게 할 수 있을까요?

안녕하세요, <위클리 NLP>를 쓰고 있는 박지호입니다. 벌써 글을 연재하기 시작한지 1년이 지났네요. 사실 첫번째 글인 매주 <15분 투자해서 AI/NLP를 공부하는 방법>을 2020년 4월 29일에 업로드했을 때에는, 생소하고 전문적인 분야이기 때문에 얼마나 많은 사람들이 제 글에 관심을 가질까 했었습니다. 여러분이 많은 관심과 공유를 해주신

NLP

Google I/O 2021, NLP 위주 리뷰

Google I/O는 구글이 매년 신기술을 뽐내는 컨퍼런스입니다. 원래는 본사에서 락페스티벌 같은 느낌으로 이루어졌지만 올해는 버츄얼로 유튜브로만 생중계 되었습니다. 구글이라는 회사가 워낙 크고 다양한 제품을 가지고 있어 여러가지 프로젝트가 소개되었지만 이 모든 것을 공통으로 묶는 단어가 세 가지 있었습니다. Helpful Thoughtful Artificial Intelligence (A.I.) 구글러들 사이에서는 CEO 순다가 마이크