최신글
-
[AI CHAT BOT]
[AI CHAT BOT] 사용자 경험을 위한 RAG 답변 생성 최적화 개발 (병렬 처리, k값 수정 등)
[AI CHAT BOT] 응답 속도 개선을 위한 스트리밍 설계, Next -> Nest -> Python 실시간 렌더링 Nest -> Python 실시간 렌더링" data-og-description="[Python] 멀티프로세싱으로 처리 속도 올리기 (multiprocessing)이전 글 읽으러 가기! 👋 소개안녕하세요! 대학생 개발자 주이어입니다! 저는 현재 진행 중인 프로젝트에서 단순히 GPT API를 호출해 답변" data-og-host="blog.juyear.dev" data-og-source-url="https://blog.juyear.dev/106" data-og-url="https://blog.juyear.dev/106" data-og-image="https://scrap.kakaocdn...
-
[AI CHAT BOT]
[AI CHAT BOT] 응답 속도 개선을 위한 스트리밍 설계, Next -> Nest -> Python 실시간 렌더링
[Python] 멀티프로세싱으로 처리 속도 올리기 (multiprocessing)이전 글 읽으러 가기! 👋 소개안녕하세요! 대학생 개발자 주이어입니다! 저는 현재 진행 중인 프로젝트에서 단순히 GPT API를 호출해 답변을 받는 구조로 챗봇을 제작하고 있었습니다.하지만 서버 배포 후 테스트 과정에서 무료 vm의 낮은 성능과 콜드스타트 등의 문제 때문에 답변을 기다리는 시간이 너무 길어졌고,이는 사용자 경험을 현저히 떨어뜨리는 문제가 될 것이라고 생각했습니다. 저번 TRAIVEL 프로젝트에서도 비슷한 문제가 있었지만 Next -> Express로 한 단계 통신이었기에 큰 문제가 되지 않았습니다.하지만 이번의 경우 RAG 방식을 사용한 Next -> Nest -> Python으로 두 단계 이상의 통신이었고..
-
[Python 잡다한 여러가지]
[Python] 멀티프로세싱으로 처리 속도 올리기 (multiprocessing)
왜 내 챗봇은 헛소리를 할까? RAG와 Reranker로 파헤친 정확도의 비밀 (문서 순서의 중요성) 왜 내 챗봇은 헛소리를 할까? RAG와 Reranker로 파헤친 정확도의 비밀 (문서 순서의 중요성)👋 소개안녕하세요! 대학생 개발자 주이어입니다!저는 최근에 저희 학교를 대상으로한 전용 AI 챗봇을 제작하고 있었는데요.그러다보니 자연스럽게 RAG와 파인튜닝과 같은 AI 관련 기술들을 많blog.juyear.dev이전 글 읽으러 가기! 👋 소개안녕하세요! 대학생 개발자 주이어입니다!오늘은 제가 예전에 외주를 받으면서 배웠던 멀티프로세싱 개념을 최근에 또 사용하게 돼서이 참에 한 번 정리해보려고 이렇게 글을 쓰게 되었습니다. 먼저 멀티쓰레딩과 멀티프로세싱의 차이점에 대해서 간단하게 정리한 후,pytho..
-
[AI]
왜 내 챗봇은 헛소리를 할까? RAG와 Reranker로 파헤친 정확도의 비밀 (문서 순서의 중요성)
👋 소개안녕하세요! 대학생 개발자 주이어입니다!저는 최근에 저희 학교를 대상으로한 전용 AI 챗봇을 제작하고 있었는데요.그러다보니 자연스럽게 RAG와 파인튜닝과 같은 AI 관련 기술들을 많이 익히고 있었습니다. 특히 프로젝트에서는 RAG를 사용하여 AI챗봇을 구현했는데... 예상과 다르게 자꾸 엉뚱한 답변을 하더라구요...그래서 찾아봤더니 RAG에서도 정확도를 향상시키기 위한 다양한 방법들이 있었습니다.기존에 저는 단순히 필요한 데이터를 모으고, 전처리 과정만 거치면 RAG의 끝인줄 알았는데생각보다 훨씬 더 복잡하고 어려운 내용들이 기다리고 있었습니다. 그래서 오늘은 제가 직접 문제를 해결하며 배운 내용을 바탕으로 RAG의 작동 방식, FAISS, Reranker, 임베딩 모델의 선택 등을 정리해보려고..
-
[TRAIVEL]
[TRAIVEL] v1.1 업데이트 내용 정리 - 유저 피드백 (with. 카카오 디벨로퍼스)
[TRAIVEL] 마케팅 분석 보고서 - 에브리타임 vs 네이버 카페 [TRAIVEL] 마케팅 분석 보고서 - 에브리타임 vs 네이버 카페[TRAIVEL] 한국어 전문 여행 일정 생성 AI, TRAIVEL v1.0 출시 [TRAIVEL] 한국어 전문 여행 일정 생성 AI, TRAIVEL v1.0 출시[TRAIVEL] 개인 맞춤형 여행 일정 생성 플랫폼 TRAIVEL [TRAIVEL] 개인 맞춤형 여행 일정 생성blog.juyear.dev이전 글 읽으러 가기! 🚩 소개안녕하세요! 대학생 개발자 주이어입니다.오늘은 유저 피드백을 반영하여 TRAIVEL v1.1 업데이트 내용을 가져왔습니다! UI 수정 - 2건UI 추가 - 1건기능 추가 - 1건 위와 같이 총 4건의 업데이트가 진행 되었고, 핵심 변경 사항..
