Day to_day

Part 1. 꿈꾼 적이 있던가사업? 기획자? 또 다른 무언가? 미래를 꿈꾸지 않으면 평생 내가 뭘 위해 나아가고, 내 커리어의 방향은 무엇인지를 정해갈 수 없기에 시간이 날 때마다 고민을 해보기로 한다. 갖고 싶은 게 있었을까. 하고 싶은 게 있었을까. 그동안 학업과 돈은 내가 하고 싶은 게 생겼을 때 그것이 내 선택에 걸림돌이 되지 않게 하기 위해서 꾸준히 챙겨왔던 것들이다. 그런데 가만 생각해보면 남들의 시선에서 ‘적당해 보이는 것들’을 선택해왔던 걸 수도 있다. 적당히 알아주는 성적, 적당히 알아주는 학교, 적당히 알아주는 직장에 들어간 뒤에 자신이 부족함이 없다는 것을 증명해왔을지도 모른다. 그러므로 나는 미래를 위해 투자해온 사람이 아니라, 남들의 시선을 벗어나지 못하는 갇혀버린 파랑새에 불과..

그 당시 나는.. 회사에 6개월만에 사라져버린 팀장님, 이직할만한 포트폴리오가 없는 것 같은 불안감에 어떤 것부터 해야할지 감이 안잡혔다. 일단 뭐라도 해보자는 마음으로 가짜연구소 깃허브 잔디심기(a.k.a 깃잔심)에 러너로 들어가게 되었고, 첫 날 한결님의 오티를 듣고 많은 생각이 들었다. 개발자가 각광받는 시대가 오며 많은 사이드 프로젝트 붐이 일어났지만, 그중 상당수는 짧게 일회성으로 불탔다가 유지되지 않은 채 없어지는 것이 많다. 나 역시 단순히 스펙용으로만 사이드 프로젝트를 생각하고 있었지만, 실제로 이 프로젝트로 돈을 벌 수 있는 구조가 이미 많이 만들어져 있다는 것을 깨닫고 내가 모르는 세상이 많다고 느껴졌다. 오티를 다녀와서 내가 메모장에 적은 목표가 있었는데,내가 기회를 만들기실제 동작 ..

들어가며구글에서 발표한 Agent에 대한 백서를 정리해 보면서 Agent란 무엇인지, Agent의 핵심 구성 요소와 동작원리 등에 대해서 알아보겠다. 아래의 링크를 통해서 전체 원문을 참고하면 좋겠다. Agent란 무엇인가?인간은 특정 일을 수행하기 위해서 책, Google 검색, 계산기 등을 사용하여 필요한 정보를 찾거나 계산을 수행한다. 에이전트는 기존 LLM의 단순히 주어진 질문에 답하거나 데이터를 처리하는 능력을 넘어서, 주어진 환경을 관찰하고 이를 바탕으로 자신이 가진 도구를 사용하여 목표를 달성하려고 시도하는 애플리케이션을 의미한다.특히 에이전트는 달성해야 할 목표가 제공될 때, 자율적으로 인간의 개입 없이 독립적으로 행동할 수 있다는 것이 특징이다. 궁극적인 목표를 달성하기 위해 ‘다음에 무..

들어가며이번 포스팅에서는 그동안 실험적으로 진행했던 프롬프트 엔지니어링에 대한 팁들에 대해서 공유해보려고 한다.프롬프트 엔지니어링에 대한 깊은 연구를 바탕으로 이 포스팅을 쓰는 것이 아닌, 프로젝트를 하며 경험적으로 느꼈던 정보들이니 어디까지나 참고만 하였으면 한다. 직접 사용해 본 것들로 후기를 작성하는 포스팅으로 생각해주었으면 한다. Prompt EngineeringLLM으로 다양한 작업이 가능해지면서 그러면 이 기술을 어떻게 활용하느냐가 핵심 역량으로 떠오르게 되었다. LLM, RAG, Agent를 차례로 경험하면서 가장 기본적으로 알아야 할 것은 prompt engineering에 관한 것이라고 생각하게 되었다.그래서 상황별로 내가 사용했던 prompt engineering에 대한 경험과 팁을 소..

❗가짜연구소에서 ‘깃허브에 nlp 잔디심기’ 팀에서 발표한 자료를 함께 공유해보려 한다.이번에 소개할 주제는 LLM의 self-correction이다. LLM의 Self-Correction은 모델이 스스로 오류를 인식하고 수정하는 과정으로 응답의 품질을 향상하는데 목적이 있다. 해당 포스팅은 Automatically Correcting Large Language Models: Surveying the landscape of diverse self-correction strategies라는 LLM의 self-correction 기법들에 대한 서베이 논문을 기반으로 정리한 글이다. 그렇기 때문에 깊은 방법론에 대한 글이 아닌 다양한 종류의 self-correction 기법에 대해서 소개한다. LLM의 주요 ..

하루에 수없이도 많은 AI관련 논문들 중에 RAG의 한계를 극복한 새롭게 제안하는 CAG라는 기법이 나왔다고 하길래 빠르고 가볍게 리뷰를 진행해볼까 한다.  논문에서 해결하고자 하는 문제 정의RAG는 외부 데이터를 동적으로 검색하고, 할루시네이션을 감소시킬 수 있는 방법으로 개방형 질문 응답(Open-Domain Question Answering)과 같은 지식 집약적 작업에서 좋은 성능을 발휘하였다. 하지만 RAG는 실시간 검색으로 인한 검색 지연, 문서 선택에서의 부정확하거나 관련 없는 문서를 선택하면서 오는 품질 저하, 시스템 복잡성 증가 등과 같은 문제가 있다.  제안 방법 이 논문에서 제안하는 방법은 1) LLM의 확장된 컨텍스트 윈도우를 활용하여 외부 데이터를 사전에 로드하고, 2) 키-값(Ke..