폐쇄망에서도 클라우드에서도 돌아가는 LLM 서비스를 만듭니다.
멋진친구들은 30년 차 개발자 박정현의 1인 개발 스튜디오입니다. 챗봇, 업무 자동화, 기존 시스템 연동까지 설계한 사람이 구현도 직접 맡습니다.
하는 일
LLM 챗봇·플랫폼 구축
온프레미스 LLM이나 OpenAI, Azure OpenAI를 연동한 챗봇을 설계부터 구축합니다. LangChain 기반 RAG, 카카오 챗봇 채널 연동, 기존 레거시 시스템과 잇는 게이트웨이까지 다룹니다.
폐쇄망 쿠버네티스 운영
외부망이 막힌 엔터프라이즈 환경에서 배포하고 운영합니다. 모델과 이미지를 미리 반입하는 절차를 만들고, 파드에서 노드까지 장애를 추적합니다.
아키텍처 설계와 개발 PL
전체 아키텍처를 잡고, 개발 PL로서 개발자들을 리드하면서 실무 개발을 함께 합니다. Spring Boot가 주력이지만 FastAPI를 비롯해 프로젝트에 맞는 기술로 구현합니다.
해온 일
온프레미스형 LLM 챗봇 플랫폼 개발
고객사 내부에 설치해 쓰는 LLM 챗봇 플랫폼을 만들었고, 지금도 계속 업그레이드하고 있습니다. 시스템 설계와 DB 설계, 개발 총괄, 실무 개발을 맡고 있습니다.
신용평가사·정부출연 연구기관 AI 챗봇 구축
신용평가사와 정부출연 연구기관에 AI 챗봇을 구축했습니다. 신용평가사 프로젝트에서는 기존 레거시 서비스와 챗봇 플랫폼을 잇는 AI Gateway 모듈을 개발했습니다.
기업 신용평가 기관의 평가 의견 작성 자동화
평가 의견 작성을 LLM으로 자동화했습니다. 온프레미스 LLM 연동과 LangChain 기반 RAG를 개발했고, 시스템 설계부터 개발 총괄까지 맡았습니다.
AI 챗봇 서비스 개발
OpenAI 연동, LangChain 기반 RAG, 카카오 챗봇 채널 연동을 개발하고 CI/CD와 Docker 배포까지 연결했습니다.
화장품 대기업 AI 챗봇 프로젝트
시스템 설계와 DB 설계, 개발 총괄, 실무 개발을 맡았습니다. Azure OpenAI 연동, LangChain 기반 RAG, 카카오 챗봇 채널 연동을 개발했습니다.
범정부 콜센터 통합 프로젝트
상담 애플리케이션의 프론트엔드(Vue.js)와 백엔드(Spring Boot)를 개발했습니다.
AWS 스팟 GPU 인스턴스의 임베딩·OCR 서비스
언제든 회수될 수 있는 스팟 인스턴스 위에서 임베딩과 OCR 서비스를 docker-compose로 운영합니다.
경력
1995년 삼성SDS에서 시작해 30년 넘게 개발했습니다. 공공, 포털, 보험 시스템을 거쳐 지금은 LLM 서비스를 만듭니다.
연락
- 상호
- 멋진친구들 (awesomepals)
- 대표
- 박정현
- 업종
- 정보통신업 · 소프트웨어 개발
- 개업
- 2023년 2월