LLM을 사용하기 전에 알아야 할 중요한 개념들에 대해서 알아보자. 보안 문제LLM을 사용할 때의 데이터 보안 문제가 생길 수 있다. 개인 정보 보호학습 데이터 또는 대화를 통하여 민감한 개인 정보가 포함이 될 수 있다.데이터 저장 및 전송LLM이 처리한 데이터가 어디에 저장되는지, 어디로 전송이 되는지를 알아야한다. 보안을 강화하는 방법민감한 정보 필터링입력된 데이터에서 민감한 정보를 자동으로 거르는 필터링 시스템을 구축 하는 방법.암호화SSL/TLS 와같은 데이터 암호화 프로토콜을 이용한다.SSL/TLS을 HTTP와 결합한 HTTPS를 사용한다.데이터 저장 최소화학습데이터가 아닌 유저의 데이터의 최소화를 뜻한다.데이터 보존 주기를 설정해 자동으로 삭제를 시키는등 유저의 정보를 지속적으로 정리해야한다...

프롬프트 엔지니어링이 무엇인지 왜 중요한지에 대해서 알아보자!프롬프트 엔지니어링프롬프트 엔지니어링이란 LLM에 적절한 입력 즉 질문을 설계하고 작성하여서,모델이 최적의 응답을 하도록 유도하는 기술이다. 프롬프트가 잘 설계되어 있다면, GPT와 같은 모델의 결과가 좀더 정확하고 유용하게 나올 것이다. 반대로 잘못 작성된 프롬프트는 부정확한 답변 및 혼란스러운 결과를 생성 할 수 있다. 즉 프롬프트 엔지니어링이란 모델이 유저의 의도한 대로 응답을 하게끔 유도를 하는 것이라고 볼 수 있다.구조나 어조를 조정하여 답변의 품질과 일관성을 높히고, 부연설명 대신 깔끔하고 명확하며 구체적인프롬트를 작성하는 것이 목표이다.  동작하는 이유프롬프트 엔지니어가 동작하는 이유를 알기 위해서는 LLM의 동작원리에 대해서 알아..

LLM 시스템 형성을 위한 다양한 기법 및 요소RAG, Vector DB, LangChain에 대해서 알아보자RAG  RAG는 Retrieval-Augmented Generation의 약자이다.단어 그대로인 검색 기반 생성 기법을 뜻한다. LLM의 한계인 많은 데이터를 학습했음에도 불구하고, 최신의 정보와 특정 전문적인 지식(도메인 지식)에 대하여 한계를 가질수 밖에 없다. 이를 보안하기 위해서 나온것이 RAG이다.  이는 LLM에서 답을 직접 생성하는것 대신, 외부의 데이터베이스 또는 문서등에서 관련된 정보를 검색하여그 검색한 정보들을 토대로 답변을 생성하는 방식이다.  동작 원리질문 입력사용자의 인풋을 질문으로 받아서, 질문에 맞는 답변을 위해 검색 단계를 거친다문서 검색백터 DB 나 기타 저장소 등..