최근 기업들이 인공지능 기술, 특히 대규모 언어 모델(LLM)을 활용하여 비즈니스 가치를 창출하는 방법에 대한 관심이 높아지고 있습니다.
오늘은 LLM 서비스/솔루션 개발을 위한 접근 방안을 소개하고자 합니다.
효율적인 개발 환경 설정부터 방법론 선택, 그리고 기술적 접근 키워드까지, 체계적으로 다루어 보겠습니다.
1. 환경 설정
LLM 애플리케이션의 개발, 모니터링, 테스트 및 배포를 지원하는 플랫폼으로 LangChine을 활용할 수 있습니다. 이 플랫폼은 다음과 같은 도구들과 함께 활용 됩니다.
- 1) LangSmith: 통합 DevOps 플랫폼으로, LLM 앱을 프로토타입에서 프로덕션 단계로 원활하게 전환할 수 있게 돕습니다.
- 2) LangGraph: 상태 저장 다중 행위자 애플리케이션을 구축할 수 있는 라이브러리로, LangChain과 함께 사용됩니다.
- 3) LangServe: 개발자가 LangChain 실행 가능 파일을 REST API를 통해 쉽게 배포할 수 있도록 지원합니다.
개발 초기 단계에서는 VSCode와 Google Colab을 활용하여 GPU나 서버 구매 전까지 저비용으로 시작하는 것이 좋습니다.
이 도구들은 기능 개발 및 테스트를 위한 강력한 지원을 제공합니다.
2. 방법론
LLM을 통한 서비스 개발에 있어, 다음 두 가지 방법론을 고려할 수 있습니다:
- 1) PEFT (Parameter Efficient Fine-Tuning): 특정 도메인이나 기업 맞춤형 솔루션 개발에 유리하며, 보안과 데이터 프라이버시 측면에서 강점을 가집니다.
- 2) RAG (Retrieval-Augmented Generation): 기존 지식 베이스를 활용하여 LLM의 성능을 강화하고, 더 다양하고 풍부한 콘텐츠 생성이 가능합니다.
3. 기술적 접근 키워드
기업 서비스나 제품에 Gen AI / LLM 활용 서비스 개발 및 접목하는 것은 다음과 같은 기술적 접근을 요구합니다
1) LLM 서비스 개발 방안 (PEFT vs RAG ). * sLLM 개발 접근 방안으로 이해해도 될듯. . PEFT (Parameter Efficient fine-Turing)
; Rora (Row Rank Adoption) * 자체모델 로컬 구축 선호 ex. stable diffusion
; Quantization (양자화)
; 등등
. RAG (Retrieval-Augmented Gereration) * 자연어로 Data 추출, 인터넷 기사/블로그 등 기반 검색/요약/정보 제공 서비스
: OPEN AI / MS
: Gemini / Google
: Stable diffusion (case Text 2 Image)
2) Prompt learning * 일반적 접근
LangChine 플랫폼을 중심으로 LLM 서비스/솔루션 개발 접근 방안을 구축하는 것은 기업이 AI 기술을 보다 효과적으로 활용하여 혁신을 추구할 수 있는 강력한 기반을 마련해 줄 것입니다.
<LLM 모델의 서비스/솔루션 개발 성격과 주요 도구>
_datahunt.webp)