본문 바로가기

글쓰기17

LangChain을 이용한 비즈니스 어플리케이션을 고민하다 ChatGPT의 등장 이후, 인공지능 업계에서는 ChatGPT 어떻게 비즈니스에 활용할지에 대해 많은 고민들이 있었습니다. 일반인들 입장에서는 ChatGPT만으로도 충분히 재미있고 작문, 취미, 업무 등에 도움이 될 수 있지만 비즈니스 입장에서 ChatGPT는 재미있는 장난감일 뿐, 비즈니스 애플리케이션으로 활용하기에는 환각(Hallucination)과 같은 신뢰성 문제가 치명적인 단점이었기 때문입니다. 이런 신뢰성 문제 때문에 ChatGPT이전에도 생성형 챗봇을 비즈니스에 도입하려는 시도들이 있었지만, 결국 비즈니스 영역에서는 사전에 사람에 의해 구축된 지식을 바탕으로 사용자의 질의를 분석한 뒤 정해진 답변을 하는 '분류형 챗봇'을 활용하는 수준에 그치고 있었습니다. 그러나 ChatGPT등장 이후, C.. 2023. 4. 28.
[번역] StackLLaMA: RLHF로 LLaMA를 학습시키기 위한 실습 가이드 이 글의 원문은 StackLLaMA: A hands-on guide to train LLaMA with RLHF입니다 ChatGPT, GPT-4, Claude와 같은 모델들은 인간 피드백에 의한 강화 학습(RLHF)이라고 하는 방법을 통해 우리가 원하고 사용하려는 방식에 잘 맞게 파인튜닝된 강력한 언어모델입니다 이 블로그 포스트에서는, 우리는 아래 기술을 조합해 RLHF와 Stack Exchange의 질문/답 데이터를 가지고 LLaMA모델 학습을 진행한 내용을 설명합니다. 슈퍼바이즈드 파인튜닝 Supervised Fine-tuning (SFT) 보상-선호 모델링 Reward / preference modeling (RM) 인간 피드백에 의한 강화 학습 Reinforcement Learning from H.. 2023. 4. 16.
LLM에 Stable Diffusion Moment가 온다 - 2 1편에서 이어집니다... ChatGPT 출시와 LLM의 부상 2022년 11월, Open AI는 ChatGPT서비스를 공개합니다. OpenAI는 이미 GPT-2, GPT-3 모델을 공개했었고, GPT-3.5 버전이라는 이름으로 알려진 모델에 채팅 인터페이스와 챗봇에 적용된 몇몇 기술을 포함하여 생성형 챗봇 서비스를 시작한 것입니다. ChatGPT는 공개 직후부터 대중에게 엄청난 관심을 불러왔습니다. 불과 5일 만에 100만 사용자를 달성하며 인터넷 역사상 가장 단기간에 많은 사용자를 모은 서비스가 되죠. 이전까지 AI기술에 대한 대중의 인식은 알파고와 같은 게임에 적용되는 AI라던가, 이미지 분석/생성과 같은 가시적인 기술에 집중되어 있었고 자연어와 같은 영역에 대한 인식은 크지 않았습니다. 하지만 Ch.. 2023. 4. 9.
LLM에 Stable Diffusion Moment가 온다 - 1 이 글은 Large language models are having their Stable Diffusion moment 포스팅에 영감을 받아 작성하였습니다. Stable Diffusion이 세상에 나온 후, 이미지 생성 AI기술은 단기간에 폭발적인 발전을 경험하고 있습니다. 이 글은 Stable Diffusion의 사례를 통해 LLM(Large Language Model) 또한 같은 길을 따르게 될 것이라는 예상을 담고 있습니다. 인공지능 이미지 생성 기술 이미지 생성 모델 인공지능 기술을 이용한 이미지 생성 모델의 시대를 연 모델은 GAN(Generative Adversarial Networks, 생성적 적대 신경망) 일 것입니다. GAN은, 인공능 모델을 통해 비로소 이미지를 '만들어낼 수 있다'라.. 2023. 4. 8.
리디, 2022년 매출 2,211억 달성 상세내용 분석 이 글은 고객 입장에서 리디가 앞으로도 잘 성장하기 바라는 마음으로 작성하는 글입니다. 몇 년 전에 리디북스가 위험하다고? 라는 조금 도발적인 글을 쓴 적이 있습니다. 제목과는 다르게 리디북스가 위험하지 않다는 내용이었습니다. 당시 글에서는 아웃스탠딩과 라프텔 인수에 대해서 이야기했었는데 3년 반 정도 지난 지금은 그 반대의 이야기를 하게 되었으니, 기분이 묘하네요 오늘(2023.04.05) 2022년도 리디 경영공시 보도자료가 대대적으로 나왔습니다. 제목은 리디, 2022년 매출 2,211억 달성… 14년 연속 성장 으로 보도되었습니다. 지난 글에서도 지속적으로 매출이 성장하는 상황이 긍정적이라고 했었는데, 결국 14년째 매출이 성장하고 있으니, 주목할만한 성장입니다. 그리고 기사 내용을 쭉 읽어 보면.. 2023. 4. 5.
애플의 ARM CPU도입이 기대되는 이유 WWDC 2020에서 애플은 '결국' 자사 PC 라인업인 Mac 시리즈에 ARM CPU를 도입할 것이라고 발표하였습니다. WWDC 2005에서 PowerPC를 버리고 Intel CPU를 도입하기로 발표한 지 딱 15년 만입니다. 15년 전, 거의 울며 겨자 먹기로 Intel CPU를 도입하였던 상황을 생각하면 애플의 설욕이라고 할까요. 스티브 잡스가 살아있었다면 발표에서 엄청나게 많은 자랑을 늘어놓았을 것 같다는 생각이 듭니다. 사실 애플이 언젠가 Intel CPU를 버릴 것이라는 예상은 충분히 할 만했습니다. 애플은 창업 당시부터 HW와 SW에 있어 늘 독자 규격을 통한 시스템 최적화를 고집했습니다. 90년대 IBM과 함께 PowerPC를 제작하여 성능면에서 Intel을 압도하며 '전문가용 고성능 PC.. 2020. 6. 24.