2023년 4월 4주 인공지능 기술 동향

LLM

• Stability.ai에서 오픈소스 RLHF LLM 챗봇 StableVicuna를 발표했습니다. LLaMA 13b모델을 기반으로 RLHF방식을 파인튜닝 모델을 사용한다고 합니다. vicuna도 성능이 꽤 좋아서 주목을 받았는데,  StableVicuna는 어떤 성능을 보여줄지 기대가 됩니다.
• 언어모델을 기반으로 한 애플리케이션 개발 프로젝트가 점점 많아지고 있습니다.
  • LLaMA Academy는 LLaMA모델, LoRA기술, LangChain프레임워크등을 활용하여 GPT가 API를 호출하도록 가르칩니다. 특정 API를 지정하면 해당 API를 학습한 LLaMA모델이 생성되며 API를 이용하길 원하는 기능을 입력하면 구현된 코드를 응답해 줍니다.
  • griptape는 LLM파이프라인 DAG를 작성하여 워크플로우를 구성하고, 외부 도구와의 연동 등을 지원합니다
  • H2O LLM Studio는 코딩 경험 없이도 LLM을 쉽게 미세조정할 수 있는 사용자 UI와 기능을 제공합니다
  • Simple LLM Finetuner는 Nvidia의 peft라이브러리를 이용하고 LoRA기술을 통해 다양한 언어모델을 파인튜닝 할 수 있는 인터페이스를 제공합니다
  • WizardLM은 LLM학습을 위해 사람이 직접 LLM에 명령어(instruct)를 생성하는 대신, LLM을 이용하여 명령어를 생성합니다.
• 이제 LLMOps라는 용어도 등장하고 있습니다. W&B Prompts는 LLM기반의 애플리케이션 개발을 도와주는 도구로, LangChain, OpenAI와 연동도 지원하고 있습니다
• Google bard는 꾸준히 기능이 업데이트되고 있습니다. 코드 생성과 디버깅, 코드설명 기능이 지원되기 시작하였습니다. 다만 아직 ChatGPT에 비하면 평이 좋지는 않습니다.

인공지능

• OpenAI는 자체 브랜딩 가이드라인을 발표하였습니다. ChatGPT, DALL·E 등 자체 브랜드에 대한 기준을 정립하고 있습니다.
• Amazon 리뷰를 AI가 작성하는 경우가 많아지고 있습니다. amazon.com에서 'as an AI language model'라는 키워드로 검색하면 AI가 작성한 리뷰와 책들이 검색되고 있다네요
• Transformer기반의 Text-to-Audio모델인 Bark(이름이 재미있네요)는 텍스트 입력을 한국어 오디오로도 생성합니다 

읽어볼 만한 글들

• [IT TREND] ChatGPT에 도전하는 오픈소스 AI : [IT TREND] ChatGPT에 도전하는 오픈소스 AI (kakaoenterprise.com)