같은 기술로 왜 다르게 답할까요

기본

아래 요청을 ChatGPT와 Claude에 똑같이 넣어 보고, 두 답을 길이, 불확실성을 표시하는 방식, 요청하지 않은 조언을 덧붙이는지 기준으로 비교해 보세요.

이 회의 메모에서 확인된 사실, 참석자의 의견, 아직 결정하지 않은 일을 세 칸 표로 나눠 줘. 모르는 내용은 추정하지 마.
[회의 메모 붙여넣기]

두 답의 차이가 모델 성능 하나가 아니라 답변 방식과 행동 기준의 차이로 정리됩니다.

내 일로

내가 같은 요청을 두 AI에 넣고 받은 답을 붙일게.
ChatGPT 답: [붙여넣기]
Claude 답: [붙여넣기]
차이를 1) 내용 2) 문체 3) 불확실성 표시 4) 거절·제한 기준으로 나눠 비교해 줘. 원인을 단정하지 마. 공통 기반·후속 훈련·제품 설정 가운데 가능한 설명을 가설로 표시해 줘.

관찰한 차이와 가능한 원인을 분리하고 확인하지 못한 원인은 가설로 남깁니다.

헌법형 AI와 모델 행동 명세는 무엇인가요?

Anthropic의 헌법형 AI는 원칙 목록으로 모델이 자기 답을 비판하고 고친 데이터를 만들어, 더 나은 답을 고르는 후속 훈련에 씁니다.

OpenAI는 모델 행동 명세(Model Spec)라는 공개 문서로 지시를 따르는 방식과 충돌 해결 기준을 밝힙니다.

문서 이름과 방법은 달라도, 능력과 행동 방식을 따로 설계한다는 점은 같습니다.

헌법이 매 답변을 사전 검열하나요?

공식 연구가 설명하는 중심 역할은 검열이 아니라 훈련입니다. 원칙 목록에 비추어 모델이 자기 답을 비판하고 고친 데이터를 만들고, 그 데이터로 더 나은 답을 고르는 후속 훈련을 돌립니다. 답할 때마다 헌법 문서를 찾아 읽는 방식이 아니라, 훈련을 거치며 답하는 성향에 배어드는 방식입니다.

그래서 헌법 문서를 고쳐도 이미 배포된 모델의 답이 그 자리에서 바뀌지는 않고, 바뀐 원칙으로 훈련한 다음 모델부터 반영됩니다.

실제 서비스에는 입력과 출력을 따로 확인하는 안전 장치가 더해질 수 있습니다. 특정 요청이 거절되는 것은 이 장치의 동작일 수도 있어서, 훈련이 만든 성향과 서비스 단계의 장치는 구분해서 봅니다.

한 사람이 만든 제품인가요?

다리오 아모데이는 OpenAI에서 GPT-2·GPT-3 연구에 참여한 뒤 Anthropic을 공동 창업했습니다. 두 연구 계보를 잇는 인물은 맞습니다.

트랜스포머 논문에는 8명, GPT-3 논문에는 31명이 저자로 올라 있습니다. 지금의 AI 제품은 연구·엔지니어링·안전·정책·제품 팀이 함께 만듭니다.