본문 바로가기

전체 글143

[번역] StackLLaMA: RLHF로 LLaMA를 학습시키기 위한 실습 가이드 이 글의 원문은 StackLLaMA: A hands-on guide to train LLaMA with RLHF입니다 ChatGPT, GPT-4, Claude와 같은 모델들은 인간 피드백에 의한 강화 학습(RLHF)이라고 하는 방법을 통해 우리가 원하고 사용하려는 방식에 잘 맞게 파인튜닝된 강력한 언어모델입니다 이 블로그 포스트에서는, 우리는 아래 기술을 조합해 RLHF와 Stack Exchange의 질문/답 데이터를 가지고 LLaMA모델 학습을 진행한 내용을 설명합니다. 슈퍼바이즈드 파인튜닝 Supervised Fine-tuning (SFT) 보상-선호 모델링 Reward / preference modeling (RM) 인간 피드백에 의한 강화 학습 Reinforcement Learning from H.. 2023. 4. 16.
LLM에 Stable Diffusion Moment가 온다 - 2 1편에서 이어집니다... ChatGPT 출시와 LLM의 부상 2022년 11월, Open AI는 ChatGPT서비스를 공개합니다. OpenAI는 이미 GPT-2, GPT-3 모델을 공개했었고, GPT-3.5 버전이라는 이름으로 알려진 모델에 채팅 인터페이스와 챗봇에 적용된 몇몇 기술을 포함하여 생성형 챗봇 서비스를 시작한 것입니다. ChatGPT는 공개 직후부터 대중에게 엄청난 관심을 불러왔습니다. 불과 5일 만에 100만 사용자를 달성하며 인터넷 역사상 가장 단기간에 많은 사용자를 모은 서비스가 되죠. 이전까지 AI기술에 대한 대중의 인식은 알파고와 같은 게임에 적용되는 AI라던가, 이미지 분석/생성과 같은 가시적인 기술에 집중되어 있었고 자연어와 같은 영역에 대한 인식은 크지 않았습니다. 하지만 Ch.. 2023. 4. 9.
LLM에 Stable Diffusion Moment가 온다 - 1 이 글은 Large language models are having their Stable Diffusion moment 포스팅에 영감을 받아 작성하였습니다. Stable Diffusion이 세상에 나온 후, 이미지 생성 AI기술은 단기간에 폭발적인 발전을 경험하고 있습니다. 이 글은 Stable Diffusion의 사례를 통해 LLM(Large Language Model) 또한 같은 길을 따르게 될 것이라는 예상을 담고 있습니다. 인공지능 이미지 생성 기술 이미지 생성 모델 인공지능 기술을 이용한 이미지 생성 모델의 시대를 연 모델은 GAN(Generative Adversarial Networks, 생성적 적대 신경망) 일 것입니다. GAN은, 인공능 모델을 통해 비로소 이미지를 '만들어낼 수 있다'라.. 2023. 4. 8.
리디, 2022년 매출 2,211억 달성 상세내용 분석 이 글은 고객 입장에서 리디가 앞으로도 잘 성장하기 바라는 마음으로 작성하는 글입니다. 몇 년 전에 리디북스가 위험하다고? 라는 조금 도발적인 글을 쓴 적이 있습니다. 제목과는 다르게 리디북스가 위험하지 않다는 내용이었습니다. 당시 글에서는 아웃스탠딩과 라프텔 인수에 대해서 이야기했었는데 3년 반 정도 지난 지금은 그 반대의 이야기를 하게 되었으니, 기분이 묘하네요 오늘(2023.04.05) 2022년도 리디 경영공시 보도자료가 대대적으로 나왔습니다. 제목은 리디, 2022년 매출 2,211억 달성… 14년 연속 성장 으로 보도되었습니다. 지난 글에서도 지속적으로 매출이 성장하는 상황이 긍정적이라고 했었는데, 결국 14년째 매출이 성장하고 있으니, 주목할만한 성장입니다. 그리고 기사 내용을 쭉 읽어 보면.. 2023. 4. 5.
오랜만에 종이책 코로나 이후 움츠렸던 일상을 회복해 보기 위해 오랜만에 서점을 들렀는데, 마침 김영하 작가의 신작이 나왔습니다. 한동안 e북만 읽다가 모처럼 종이책을 구매하게 되었는데, '역시 책은 종이책이다'라는 생각이 드네요 손에 전해지는 책의 무게와 질감. 눈으로 편하게 들어오는 종이와 글씨의 색깔. 모처럼 좋아하는 작가의 신작이라 흥분되면서도, 한편으로는 아껴서 조금씩 읽고 싶은 이율배반의 감정이라니. 실물 책을 만지작 거리고 있자니, 꽤 열심히 독서 후기를 올렸던 블로그가 생각나서 글 한 편 기록해 봅니다. 그동안 책을 안 읽은 건 아닌데, 글로 정리하는 일은 무척 오랫동안 게으름을 부렸네요 이번 독서를 계기로 다시 글을 손에 잡아 보겠다는 결심을 한 번 해 봅니다. 2022. 5. 10.
스페이스 크로니클 - 닐 디그래스 타이슨 천문학에 관련된 강연 또는 우주 관련 다큐멘터리를 본 사람이라면 익숙한 얼굴의 미국 천문학자가 있습니다. 천문학이라는 학문을 일반 대중에게 알리는데 가장 왕성한 활동을 보여주고 있는 '닐 디그레스 타이슨' 박사입니다. 8~90년대 칼 세이건이 천문학이라는 학문을 대중에게 알렸다면, 칼 세이건 사후 그의 뒤를 잇는 천문학 전도사로서 대중들에게 가장 잘 알려진 학자입니다. 실제로 그는 칼 세이건의 '코스모스' 리메이크 편에서 직접 진행을 맡기도 하는 등 칼 세이건의 후계자를 자처하며 과학을 대중들에게 쉽게 알리는 역할을 도맡아 하고 있습니다. '스페이스 크로니클'은 그가 대중들에게 했던 수많은 강연과 칼럼 모음집입니다. 다수의 강연과 칼럼 중에서도 왜 인류가 우주를 개척해야 하는지, 어떻게 우주로 향해야 하.. 2021. 1. 18.

티스토리툴바