오뚝이개발자

캐나다 토론토에서 ACL2023이 개최되었다. 7월에 다녀왔는데 귀찮아서 미루고 미루다 한달이 지나서야 후기를 쓰는 나... 이러다간 내용 다 까먹어버릴까봐 무서워서 얼른 호다닥 쓴다 ㅋㅋㅋ(하...그나저나 캐나다 너무 좋았다...헤으응...또 가고싶...) 이 글에선 ACL2023에서 본 것들을 토대로 최신 NLP 연구 동향에 대해 소개해보고자 한다. 이번 학회에서는 굉장히 많은 토픽들이 다루어졌는데 그 중에서 사람들이 많이 몰리는 세션과 해당 주제로 많은 페이퍼가 나온 토픽과 이전에는 없었다가 새롭게 등장한 토픽들을 기준으로 선정하여 소개하고자 한다. 아무래도 그 세 가지 위주로 보는 것이 좀 더 유의미하지 않을까 싶다. 덧붙이자면 모든 토픽에 대해 세세하게 설명하기 보다는 그저 내가 보았던 것들 위..

OpenAI의 ChatGPT가 공개되었다. 사실 공개된지 좀 되었지만.... 논문쓰고 제출하느라 이제야 사용해본 나... 이미 미디어에 많이 노출이 되어서 다들 알겠지만 간단히 설명하자면 ChatGPT는 챗봇 형식의 AI이다. 구글, 네이버, 다음에 검색하듯이 키워드나 명사형으로 검색을 하는 것이 아니라 그냥 사람과 대화하듯이 질문하면 답을 찾아주는 것이다. 음... 좀 더 쉽게 비유하자면 미래를 그린 SF 영화에 나오는 AI 비서 같은 거라고 생각하면 된다. "이거이거 찾아줘~", "이거이거 알려줘~"와 같은 질문에 대답해주는 AI이다. 관련된 분야를 연구하고 있어서 한 번 사용해보았는데 성능이 꽤 괜찮은 것 같았다. 내가 놀랐던 점은 말을 꽤나 잘한다는 것이다. 지금까지의 챗봇들은 response를 ..

요즘 내가 연구하고 있는 분야가 NLP에서 low resource환경에서 사용할 수 있는 data augmentation이다. NLP 분야에서 사용되는 data augmentation은 vision 분야와 약간 다른 특성을 갖는다. 이에 대해 종합적으로 잘 정리해둔 블로그가 있어 링크를 달아둔다. 문맥적인 변화를 주는 것인지, 외형적인 변화를 주는 것인지와 같은 큰 틀에 따라 방법을 나누고 그 안에서 다시 세부적인 방법론에 따라 내용을 나누어 설명한다. https://amitness.com/2020/05/data-augmentation-for-nlp/?fbclid=IwAR11MkccCti-2cD93RYftNPHb7Wxdj7AlZG7NNG4EhPaBkmiJkcBPtdl1eo A Visual Survey o..