Reasoning Prompt
LLM이 문제를 단계적으로 추론하도록 유도하는 프롬프트 기법
초기의 LLM(GPT-3, GPT-3.5 등)은 한 번에 복잡한 계산이나 논리 문제를 해결하는 데 약점이있었고 이는 LLM은 전통적인 계산기처럼 산술 연산을 수행하는 프로그램이 아니라, 학습한 패턴을 바탕으로 다음에 올 가능성이 높은 토큰을 생성하는 언어 모델이기 때문이었다 . LLM은 계산기가 아니라 다음 단어를 예측하는 모델로 한번에 답을 뱉질 못해 다단계 계산을 자주 틀리며 '단계적으로 풀어라' chain of Thougtht가 정답률을 크게 끌어올린다. LLM은 다음에 올 가장 그럴듯한 단어(숫자)를 예측하는것이지 계산을 하는 것이 아니라 한번에 최종숫자를 뱉으라고 하면 중간과정을 건너뛰고 그럴듯한 숫자를 찍는다.
Chain of Thought 생각의 사슬 CoT
LM이 복잡한 문제를 해결할 때 단계적으로 추론하도록 유도하는 프롬프팅 기법
" 단계적으로 생각하고 마지막에 최종 답을 제시해."
https://standout.tistory.com/1875
프롬프트 엔지니어링 Prompt Engineering: Zero-shot / One-shot / Few-shot Prompting, Role 역할, Instruction 지시, Co
프롬프트 엔지니어링 Prompt Engineering프롬프트만 잘작성해도 원하는 결과를 얻을 수 있다. 프롬프트 엔지니어링(Prompt Engineering) AI에게 원하는 결과를 얻기 위해 입력(프롬프트)을 효과적으로 작성
standout.tistory.com
프롬프트에 단계적으로 풀어라라는 한줄을 더하라. 중간풀이를 글로 쓰게하면 그 풀이가 다음 토큰을 만들때 작업공간이자 근거가 되어 다음줄에서 그 숫자를 보고 계산을 이어갈 수 있다. 암산이 필산이 되는 셈.
CoT는 토큰을 더 쓰지만 계산, 다단계 문제의 정답률이 높다. 토큰 즉 비용과 시간을 쓰되, 대가로 정확도를 얻는것.
직접답변 혹은 CoT의 정답률을 비교했을때 단순한 질문이거나 함정문제일 경우 효과가 없거나 오히 려 해로운 경우도 있다. 만능이 아니라는 점을 이해하자.
response = client.responses.create(
model="gpt-5",
input="""
487 × 236을 계산해.
단계적으로 풀고 마지막에 최종 답을 제시해.
"""
)
print(response.output_text)
복잡한 문제를 여러 단계의 작은 문제로 나누어 해결하도록 유도
수학 계산, 논리 추론, 코딩, 계획 수립 같이 여러 단계를 거쳐야 하는 문제에서 도움이 된다 .
하지만 GPT-5에서는 조금 다르게 이해해야 한다 생각 과정을 글로 출력하면 그 글을 다시 읽으면서 다음 토큰을 만든다는 예전설명과 다름없다. 최신 GPT-5에서는 내부 추론 과정(Reasoning)을 그대로 사용자에게 출력하지 않는다. 즉 단계별 생각을 모두 출력해라.라고 요청한다고 해서 모델의 실제 내부 추론 과정이 그대로 공개되는 것은 아니다. 모델은 내부적으로 필요한 추론을 수행해 필요한 설명, 계산솨정, 최종 답을 이해하기 쉬운 형태로 정리하여 제공하게 되며 출력괸 생각 과정이 곧 모델의 실제 내부사고과정이라고 이해하기엔 어려움이있다.
