2023년 4월 3주 인공지능 기술 동향

LLM

• AI Agent프로젝트가 주목을 받고 있습니다.
  • AI Agent프로젝트가 본격적으로 시작되고 있습니다. AutoGPT와 같은 프로젝트는 '역사상 가장 빠르게 성장하는 GitHub프로젝트로 평가받고 있습니다.  BabyAGI, AgentGPT와 같은 유사한 프로젝트도 급속도로 활성화되고 있습니다.
  • AI Agent는 GPT와 같은 언어모델을 이용하여 실제 업무상의 다양한 문제점을 해결하거나 자동으로 업무를 수행하고자 하는 프로젝트입니다. (As AI agents like Auto-GPT speed up generative AI race, we all need to buckle up | The AI Beat | VentureBeat)
  • 물론 AutoGPT의 초기 성과가 과대 평가되어 있다는 의견도 있습니다(Auto-GPT Unmasked: The Hype and Hard Truths of Its Production Pitfalls | Jina AI: Multimodal AI made for you)
• Stable Diffusion을 만든 Stability.ai가 공개 언어모델인 StableLM을 발표하였습니다. Stable Diffusion이 가져왔던 현상을 LLM에서 재현할 수 있을지 기대됩니다. StableLM 발표에 대한 포스팅을 참고해 주세요
• 오픈소스 LLM의 발표가 계속 이어지고 있습니다. RedPajama프로젝트는 LLaMA의 데이터 생성 방식에 따라 1조 2천억 개의 토큰을 가진 개방형 데이터 셋을 구성 완료했고, 향후 몇 주 안에 기본 모델 학습을 완료할 예정입니다
• GPT4발표에서도 보였던 '이미지를 해석하는 LLM'에 대한 프로젝트도 속속 진행되고 있습니다. 
  • MiniGPT-4 (GitHub - Vision-CAIR/MiniGPT-4: MiniGPT-4: Enhancing Vision-language Understanding with Advanced Large Language Models)
  • LLaVA (GitHub - haotian-liu/LLaVA: Large Language-and-Vision Assistant built towards multimodal GPT-4 level capabilities.)
• 마이크로소프트는 End-to-End RLHF를 이용하여 ChatGPT와 같은 언어모델을 빠르게 생성할 수 있는 DeepSpeed 프레임워크를 공개하였습니다. 
• 브라우저에서 WebGPU가속을 통해 LLM을 동작시키는 WebLLM 프로젝트입니다. 현재 크롬 113 버전 이상에서 작동 가능합니다. 현재 크롬 최종 버전은 112 버전이기 때문에 WebLLM을 동작시키려면 카나리 버전으로 실행해야 합니다.
• OpenAI의 CEO 샘 알트만은 '거대 AI모델의 시대는 이미 끝났다'는 인터뷰를 했습니다. 어떤 의미인지 의견이 분분합니다.
• Next.js를 만든 Vercel lab에서 여러 AI모델을 테스트해 볼 수 있는 AI Playground를 만들었습니다.
• 이제 Bard를 한국에서도 신청할 수 있습니다. 또한 Bard를 통해 프로그래밍도 가능하도록 코드 생성 기능을 추가한다고 발표했습니다.
• 뉴욕에 기반을 둔 스타트업 Forefront가 GPT4를 무료로 사용해 볼 수 있는 서비스를 공개했습니다. 사용상에 제한은 존재합니다.
• Alpaca 기반의 한국어 파인튜닝 프로젝트인 KoAlpaca가 Polyglot-ko-12.8b를 이용해 더 많은 한국 데이터셋으로 학습한 새로운 버전의 모델을 공개하였습니다. 이와 함께 KoAlpaca모델의 채팅 서비스인 ChatKoAlpaca도 공개하였습니다.

인공지능

• 마이크로소프트가 자체 인공지능칩을 개발하고 있다고 합니다. 
• 구글은 AI개발 가속화를 위해 Brain과 DeepMind를 통합한다고 발표했습니다. 인공지능 기술에서 MS 등 다른 기업에 밀리는 모습을 보이고 있는 구글이 과연 반전에 성공할까요?
• 일론 머스크는 '진실을 추구하는 최대 인공지능 TruthGPT'를 개발 중이라고 밝혔습니다. 일론 머스크가 진실 이야기를 하니 신뢰가 별로 안 가긴 하지만...
• Atlassian 제품들에도 AI기능이 추가되기 시작했습니다.(Atlassian Intelligence - your virtual teammate | Atlassian)
• Nvidia가 코넬 대학과 공동으로 개발한 VidedoLDM을 발표했습니다.

읽어볼 만한 글들

• '프로덕션을 위한 LLM애플리케이션 구축하기': 단순히 재미 또는 실험용으로 LLM을 구축하는 것을 넘어서 실제 서비스를 제공하기 위해서 어떤 점들을 고민해야 할지 많은 경험과 고민이 담겨있는 글입니다
  • 원문: Building LLM applications for production (huyenchip.com) 
  • 번역: Building LLM applications for production - Google Docs
• 2023 AI Readness 보고서 : AI Readiness Report 2023 | Scale AI
• 새로운 생태계 등장 : ChatGPT Plugins: 새로운 생태계 등장 : ChatGPT Plugins (정리) (sk.com)