개념 LangGraph 진행 상황을 저장해서 중단된 지점부터 정확히 재개할 수 있는 실행 방식입니다. Human-in-the-loop, 장기 실행 작업, 오류 복구에 유용합니다. 견고한 실행을 구성하는 법 1. Checkpointer 지정 다양한 저장형태의 checkpointer를 이용 가능. 운영 서비스가 아닌 경우 InMemorySaver로 시작해도 무방 2. Thread ID 지정 3. Side Effect(e.g., file writes, API calls)는 Task로 래핑 결정성과 일관된 재실행 … Read more
지난 3달 간 정말 급하게 ‘ AI 서비스 개발 ‘을 완료했습니다. 이 과제를 수행하기 전 미리 알면 좋은 것들 혹은 알았으면 좋았을 것들을 기록해봅니다. AI 서비스 개발 시 기획자가 알면 좋았을 것들 AI 서비스 개발 시 개발자가 알면 좋았을 것들
chatGPT 요금 모델은 2가지가 있습니다. 구독 모델이 있고요. 토큰 단위로 결제하여 사용 하는 모델도 있습니다. 시험 삼아 chatGPT를 사용하시고 싶으신 분 무료버전이나 ollama, copilot과 같은 무료…
이번 포스트에서는 그 중에 선형 회귀, 최소 제곱법, 평균 제곱 오차의 개념에 대해서 정리하였습니다. 선형 회귀는 쉽게 풀어서 정의하면 가장 훌륭한 예측선 긋기 입니다.
“홀드아웃”에서의 단점인 오버피팅 및 떨어지는 일반화 성능을 개선한 “K-fold 교차검증” 방법에 대해 공부해보았습니다. 해외 블로그들을 방문하며 K-fold Cross-validation이란…
일반화 오류가 낮은 모델이란 테스트한 데이터 외에 미래의 또는 새로운 데이터 세트에 대해서도 더 나은 예측을 하는 것을 의미합니다. 이러한 일반화 성능 개선을 위해 등장한 것이 홀드아웃 방법입니다…
Extension에서 검색 해 보니 Continue extension이 GitHub Copilot 보다는 이용자 수가 적지만 점수는 더 높다는 것을 확인 할 수 있었습니다. 더군다나 Continue는 다른 LLM도 사용할 수 있다고 하니 꽤나 괜찮아 보입니다. 이번 포스트에서는 Continue를 이용해서 이것 저것 만져본 본 내용들과 Continue를 언제 사용하면 좋고 언제 사용하면 안되는지 정리해보았습니다.
LangChain을 찍먹하려다가 ChatGPT를 쓰려면 토큰을 결제해야 한다는 사실을 깨달았습니다. 그런데 결제를 안 하고도 다른 LLM을 로컬에서 사용할 수 있다는 사실을 알게 되었습니다. 그게 바로 Ollama 입니다.
해당 글은 “Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4” 이라는 논문을 읽고 정리해보았습니다. “Chat GPT 질문하는 법” 무엇일까요? 우선 해당 논문에서는 26가지를 제시했습니다. 저는 너무 질문이 너무 복잡해지거나 비슷한 원칙인 경우를 제외하고 17개 원칙만 정리했습니다. 그리고 17개 원칙에 개인적으로 느낀 유용성과 차별성을 기준으로 별점을 매겼습니다. ★★★★★ : 자주 애용할 만한 프롬프트 원칙인 … Read more
머신러닝을 위한 수학 시리즈는 머신러닝을 이해하기 위한 수학을 A 부터 Z까지 설명하는 포스트가 아닙니다. 저 또한 머신러닝을 공부하면서 머신러닝을 이해하기 위해 필요한 최소한의 수학 개념을 정리한 것 뿐입니다. 이번 포스트에서는 그 중에 미분, 편미분, 시그모이드 함수, 로그 함수의 개념에 대해서 정리하였습니다. 미분, 로그 함수만 정규과정 중에 배웠던 기억이 나네요….; 미분, 로그 함수 뿐만 아니라 편미분과 … Read more