로컬 AI 비서 만들기
1일차서버 세팅하고 LLM 설치부터 시작.
처음엔 환경 맞추는 데 시간이 좀 걸렸지만, 일단 모델이 뜨고 응답이 나오니까 길이 보이기 시작했다.
2일차기능 설계 잡고 텔레그램 봇 구현.
메시지 받고 답변 보내는 기본 루프를 붙였고, “아 이제 진짜 제품처럼 움직이네” 하는 감각이 왔다.
3일차ConfiUI(ComfyUI) 이미지 생성 속도 테스트.
품질도 중요하지만 체감은 결국 속도라서, 여러 설정 바꿔가며 어느 조합이 실사용 가능한지 확인했다.
4일차멀티 에이전트 구조 붙이고 기능 확장.
라우팅, 도구 호출, 역할 분리 같은 걸 시도하면서 시스템이 점점 커졌다.
동시에 “이제 정리 안 하면 복잡도 올라간다”는 신호도 같이 느꼈다.
5일차프롬프트 엔지니어링 + 기능 재설계.
답변 톤, 논리 일관성, 화자 문제 같은 걸 손보면서 “그냥 되는 것”에서 “쓸 만한 것”으로 옮기는 작업을 했다.
오픈클로 2일차에 써봤는데 생각보다 별로인거같아서 그냥 전부 직접 구축했는데 걍 할걸그랬나 싶기도하고.
댓글 1
포스트 내용에 대한 의견이나 질문을 남길 수 있습니다. 답글과 좋아요는 로그인한 사용자 기준으로 기록됩니다.
이전 글과 다음 글
현재 글을 기준으로 앞뒤 글을 바로 이동해서 볼 수 있습니다.
좋습니다.지금까지 보낸 전 모델 raw 로그 + CSV 결과 기반으로 정리만 하겠습니다.(추가 분석 없이, 결론 중심)📊 전체 라우터 벤치 요약🔥 1️⃣ 완전 탈락❌ lfm2.5-thinking30/30 스키마 실패 <think> 체인오브쏘트 노출 JSON 출력 불
🚀 서론[주제 소개]: AI 이미지 생성(ComfyUI 등) 또는 딥러닝 학습을 위해 Docker 환경을 운영하다 보면, "며칠 잘 되다가 갑자기 cudaErrorNotPermitted (코드 70) 에러를 뿜으며 작업이 멈추는 현상"을 마주하게 됩니다. 이 글은 실