나에게 알맞는 AI 셋팅하는 방법 1탄

AI를 써본 분들은

ChatGPT의 메모리 기능이라는 걸 한 번쯤 들어보셨을 겁니다.

 

메모리 기능이 무엇이냐하면

AI랑 사람이 대화하다가 AI가 사용자를 더 이해하기 위해서 기억할 만한 것을

대화내역을 요약해서 메모장(.md파일)에 저장하는 자동 기억 저장과 불러오는 스킬 형태인데.

 

이 방식의 단점이 무엇이냐면 기억할 게 많아지면 많아질 수록 

AI가 질문의도에 맞지 않게 헛소리를 할 때가 많아질 수 있다는 점입니다.

 

이걸 개선하는 방안이 시스템프롬포트와 온도 설정입니다.

 

로컬AI를 써보신 분들은 셋팅에서 이 부분을 한 번쯤 보신 분들이 많을 텐데

 

시스템 프롬포트는 우리가 회사에 가면 업무 인수인계서를 받고

그 바탕으로 업무를 수행하잖아요.

AI에게 업무 인수인계서를 미리 입력해놓는 것이라고 생각하시면 됩니다.

 

이 시스템 프롬포트를 어떻게 작성하느냐에 따라서

같은 성능 AI이라도 답변의 품질 편차가 크게 작용합니다.

 

실제로 저번달에 클로드에서

시스템 프폼포트가 잘못 적어놔서 클로드 4.6 오푸스가 성능이 3% 떨어져서

공식적으로 시스템 프롬포트 문제 인정하고 수정한 게 기사로 나왔었 정도입니다.

 

그래서 시스템 프롬포트를 작성하는 방법은

빠져나갈 수 없는 빈틈없이 업무지시를 해야 말을 잘 듣습니다.

조금이라도 빈틈을 주면 AI가 지시를 무시하고 넘어가기 때문입니다.

(작성하기 어려우면 지피티나 클로드에게 시스템프롬포트를 원하는데로 짜달라고 하면 됩니다.)

 

이 시스템 프롬포트가 업무 인수인계서이기도 하지만

맛집 레시피이기도 해서

제미나이나 지피티에서는 시스템프롬포트를 공개를 안해서

제미나이나 지피티 API로 끓어 사용해서 서비스를 이용하면

공홈에서 썼던 느낌이 그대로 안나오는 이유도

시스템프롬포트가 공홈에 있던 게 적용이 안되어서 그렇습니다.

 

근데 클로드는 공식 블로그에 시스템 프롬포트를 공개를 하는데.

https://platform.claude.com/docs/ko/release-notes/system-prompts

시스템 프롬프트

[claude.ai](https://www.claude.ai) 및 Claude [iOS](http://anthropic.com/ios)와 [Android](http://anthropic.com/android) 앱의 핵심 시스템 프롬프트 업데이트를 확인하세요.

platform.claude.com

어차피 줘도 많은 사람들이 제대로 못쓸 걸 알고 공개한 거 같습니다.

 

 

 

그리고 온도인데요.

 

온도는 0~1까지 설정을 할 수 있는데.

 

온도는 쉽게 설명하면 MBTI의 S와 N성향을 설정하는 것이라고 생각하시면 됩니다.

온도 값이 낮을 수록 S성향이 강하고

온도 값이 높을 수록 N성향이 강합니다.

 

정확하고 팩트기반의 답변을 원하면 0.3~0.5 하시는 게 좋고

아이디어나 창의성 답변을 원하면 0.7~1.0으로 하시는 게 좋습니다.

 

 

이 두 가지 셋팅법에 대해서 알려드렸는데요.

 

 

 

 

 

 

 

이전 글  보러가기

 

1. 로컬AI를 왜 사용해야하는가?

https://cafe.daum.net/dotax/Elgq/4733950?svc=cafeapi

로컬AI를 왜 사용해야하는가?

안녕하세요, AI를 4년 이상 사용중인 도탁서 입니다.관심이 있는 분들 제외하고대부분 사람들이 모르는로컬AI를 소개 해드리고자글을 적게 되었습니다.로컬AI란?인터넷 또는 정보통신이 되지 않

cafe.daum.net

 

2. 로컬AI 최신 근황

https://cafe.daum.net/dotax/Elgq/4737663?svc=cafeapi

로컬AI 최신 근황

클로드 소넷4.6 수준까지 옴요즘에는 로컬ai로 초벌 작업 한 다음에지피티나 클로드로 마무리 작업하는 형태로 간다고 함.이렇게 하는 이유는점점 클로드 쪽에서 토큰 할당량을 줄이거나 넘 많

cafe.daum.net

 

3. 요즘 AI 고 이용자들이 많이 활용하는 방법

https://cafe.daum.net/dotax/Elgq/4737816?svc=cafeapi

요즘 AI 고 이용자들이 많이 활용하는 방법

롤에서 챔피언마다 스킬들이 있습니다. 예를 들어 가렌 같은 경우는 E스킬을 누르면게임 개발자가 설정해놓은 팽이 돌면서 상대방에게 데미지 주는 것처럼  요즘 AI는 클라우드AI 또는 로컬AI

cafe.daum.net