"지어내지 마"를 프롬프트에 굵게 써 두면 AI 할루시네이션 줄이는법은 끝난 걸까요? 이 계정 기록으로는 아니었습니다. 덜 틀리게 만든 건 경고 문장이 아니라 세 군데 거름망이었습니다. 쓸 때 숫자 옆에 출처를 붙이게 하고, 쓴 뒤 기계가 한 번 대조하고, 공개 전에 사람이 승인합니다.오해 하나, 경고를 세게 쓰면 안 지어낸다이 계정의 재테크 블로그는 클로드 계열 에이전트가 매일 아침 글을 씁니다. 지시문에는 처음부터 "확인 못 한 숫자는 빼라"가 들어 있었어요. 그런데 8월 24일, 그림을 만드는 단계가 검색도 하지 않고 보험사 다섯 곳의 금액을 그럴듯하게 채워 넣었습니다. 본문에는 없는 숫자였죠.경고는 부탁에 가깝습니다. 대부분 지켜지지만 매번이라는 보장은 없습니다. 그래서 그날 뒤로는 그림 속 금액..
카테고리 없음
2026. 10. 16. 20:01