궁금한 IT

Meta에서 공개한 Llama 3는 강력한 성능으로 큰 주목을 받고 있습니다. 오늘은 이 Llama 3 모델을 LangChain 프레임워크와 연동하여 나만의 AI 어시스턴트를 만드는 과정을 단계별로 알아보겠습니다. 로컬 환경에 직접 AI 모델을 구축하고 싶으셨던 분들에게 좋은 가이드가 될 것입니다. 1. 사전 준비: Ollama 설치 및 Llama 3 모델 다운로드가장 먼저 로컬 환경에서 Llama 3 모델을 손쉽게 구동할 수 있도록 도와주는 Ollama를 설치해야 합니다.Ollama 설치: Ollama 공식 웹사이트에 접속하여 본인의 운영체제(Windows, macOS, Linux)에 맞는 버전을 다운로드하고 설치를 진행합니다.Llama 3 모델 다운로드: 설치가 완료되면 터미널(명령 프롬프트)을 열고..

https://116116.tistory.com/entry/%F0%9F%A6%9C%EF%B8%8F-LangChain 🦜️ LangChain“LLM 앱을 레고처럼 쉽게 조립하는 오픈소스 도구”1. LangChain이 뭐예요?LLM(대규모 언어 모델) 을 이용한 챗봇·요약기·분석기를 “블록”처럼 이어 붙여 만드는 프레임워크입니다.데이터 읽기,116116.tistory.com 이전 포스팅에서 LangChain의 기본 개념을 살펴보았다면, 오늘은 한 단계 더 나아가 현재 AI 분야에서 가장 뜨거운 기술 중 하나인 "RAG(Retrieval-Augmented Generation)"에 대해 깊이 알아보겠습니다. RAG를 활용하면 대규모 언어 모델(LLM)이 알지 못하는 최신 정보나 특정 도메인의 전문 지식까지 답..

“LLM 앱을 레고처럼 쉽게 조립하는 오픈소스 도구”1. LangChain이 뭐예요?LLM(대규모 언어 모델) 을 이용한 챗봇·요약기·분석기를 “블록”처럼 이어 붙여 만드는 프레임워크입니다.데이터 읽기, 프롬프트 만들기, 모델 호출, 결과 정리까지 일정한 규칙으로 묶어 주기 때문에 코드를 길게 짜지 않아도 복잡한 기능을 얹을 수 있어요.2. 왜 필요한가요?기존 방식LangChain 사용 시API 호출·에러 처리·캐시 등 모든 로직을 직접 작성이미 준비된 모듈을 조립만 하면 끝기능이 늘수록 파일이 복잡해짐체인(Chain)으로 단계가 한눈에 보임배포 후 문제 추적이 어려움LangSmith로 로그·평가 자동 기록 https://python.langchain.com/docs/introduction/?utm_so..