LLM & RAG 용어정리 (LangChain과 FAISS 실습)
·
용어정리/LLM & RAG
실습을 통한 LangChain과 FAISS에 대해서 알아보자.기본 설정패키지 설치기본적으로 FAISS와 LangChain을 사용하기 위해서 패키지의 설치를 진행한다.faiss 같은 경우는 cpu와 gpu둘중 선택한다. 기본적으로는pip install langchain langchain-openai faiss-cpu/gpu  현재 사용하고 있는 anaconda 가상환경에는 최대한 conda 패키지로 설치를 해주는 것이 좋다. 이때, conda패키지에 없을 수 있는데, 이는 conda-forge로 설치할 수 있다.  https://anaconda.org/설치를 원하는 패키지의 이름을 검색하면 된다.  conda install conda-forge::langchain conda install conda-for..
LLM & RAG 용어정리 (LangChain 개념과 활용)
·
용어정리/LLM & RAG
LangChain의 개념과 그의 활용법에 대해서 알아보자LangChain이란LangChain은 Python의 프레임워크로 LLM을 중심으로 하여 다양한 데이터 소스와 도구를연결을 시키는 체인 기반 어플리케이션을 구축 할 수 있도록 한다. LangChain을 사용하게되면, 하나의 LLM에서만 응답을 받는 대신에,체인 구조를 통하여 다양한 작업 즉 연산, 데이터처리, 분석 등을 가능하게 한다. 검색, 분석, 생성의 자동화를 할 수 있다.  장점유연한 구성다양한 컴포넌트들을 쉽게 연결 할 수 있다.체인과 에이전트체인을 사용하여 여러 과정을 순차적으로 실행하게 한다.에이전트로 복잡한 작업을 자동화 한다.강력한 통합 기능다양한 언어모델과 데이터베이스와의 연결 및 통합이 가능하여 확장과 빠른검색을 가능하게 한다. ..
LLM & RAG 용어정리 (LLM 사용 전 중요한 개념)
·
용어정리/LLM & RAG
LLM을 사용하기 전에 알아야 할 중요한 개념들에 대해서 알아보자. 보안 문제LLM을 사용할 때의 데이터 보안 문제가 생길 수 있다. 개인 정보 보호학습 데이터 또는 대화를 통하여 민감한 개인 정보가 포함이 될 수 있다.데이터 저장 및 전송LLM이 처리한 데이터가 어디에 저장되는지, 어디로 전송이 되는지를 알아야한다. 보안을 강화하는 방법민감한 정보 필터링입력된 데이터에서 민감한 정보를 자동으로 거르는 필터링 시스템을 구축 하는 방법.암호화SSL/TLS 와같은 데이터 암호화 프로토콜을 이용한다.SSL/TLS을 HTTP와 결합한 HTTPS를 사용한다.데이터 저장 최소화학습데이터가 아닌 유저의 데이터의 최소화를 뜻한다.데이터 보존 주기를 설정해 자동으로 삭제를 시키는등 유저의 정보를 지속적으로 정리해야한다...
LLM & RAG 용어정리 (RAG, Vector DB, LangChain)
·
용어정리/LLM & RAG
LLM 시스템 형성을 위한 다양한 기법 및 요소RAG, Vector DB, LangChain에 대해서 알아보자RAG  RAG는 Retrieval-Augmented Generation의 약자이다.단어 그대로인 검색 기반 생성 기법을 뜻한다. LLM의 한계인 많은 데이터를 학습했음에도 불구하고, 최신의 정보와 특정 전문적인 지식(도메인 지식)에 대하여 한계를 가질수 밖에 없다. 이를 보안하기 위해서 나온것이 RAG이다.  이는 LLM에서 답을 직접 생성하는것 대신, 외부의 데이터베이스 또는 문서등에서 관련된 정보를 검색하여그 검색한 정보들을 토대로 답변을 생성하는 방식이다.  동작 원리질문 입력사용자의 인풋을 질문으로 받아서, 질문에 맞는 답변을 위해 검색 단계를 거친다문서 검색백터 DB 나 기타 저장소 등..

티스토리툴바