ChatGPT와 Claude는 같은 기술 계보에서 출발했지만, 각 회사가 별도로 훈련하고 행동 기준을 더한 다른 제품입니다.
제품이 갈라지는 과정은 세 층입니다.
차이는 두 제품에 같은 요청을 넣고 답을 나란히 놓아 확인합니다. 그 차이가 훈련에서 왔는지 제품 설정에서 왔는지 가설로 적고, 중요한 업무는 지금 쓰는 버전에서 다시 확인합니다.
아래 요청을 ChatGPT와 Claude에 똑같이 넣어 보고, 두 답을 길이, 불확실성을 표시하는 방식, 요청하지 않은 조언을 덧붙이는지 기준으로 비교해 보세요.
이 회의 메모에서 확인된 사실, 참석자의 의견, 아직 결정하지 않은 일을 세 칸 표로 나눠 줘. 모르는 내용은 추정하지 마.
[회의 메모 붙여넣기]두 답의 차이가 모델 성능 하나가 아니라 답변 방식과 행동 기준의 차이로 정리됩니다.
내가 같은 요청을 두 AI에 넣고 받은 답을 붙일게.
ChatGPT 답: [붙여넣기]
Claude 답: [붙여넣기]
차이를 1) 내용 2) 문체 3) 불확실성 표시 4) 거절·제한 기준으로 나눠 비교해 줘. 원인을 단정하지 마. 공통 기반·후속 훈련·제품 설정 가운데 가능한 설명을 가설로 표시해 줘.관찰한 차이와 가능한 원인을 분리하고 확인하지 못한 원인은 가설로 남깁니다.
Anthropic의 헌법형 AI는 원칙 목록으로 모델이 자기 답을 비판하고 고친 데이터를 만들어, 더 나은 답을 고르는 후속 훈련에 씁니다.
OpenAI는 모델 행동 명세(Model Spec)라는 공개 문서로 지시를 따르는 방식과 충돌 해결 기준을 밝힙니다.
문서 이름과 방법은 달라도, 능력과 행동 방식을 따로 설계한다는 점은 같습니다.
공식 연구가 설명하는 중심 역할은 검열이 아니라 훈련입니다. 원칙 목록에 비추어 모델이 자기 답을 비판하고 고친 데이터를 만들고, 그 데이터로 더 나은 답을 고르는 후속 훈련을 돌립니다. 답할 때마다 헌법 문서를 찾아 읽는 방식이 아니라, 훈련을 거치며 답하는 성향에 배어드는 방식입니다.
그래서 헌법 문서를 고쳐도 이미 배포된 모델의 답이 그 자리에서 바뀌지는 않고, 바뀐 원칙으로 훈련한 다음 모델부터 반영됩니다.
실제 서비스에는 입력과 출력을 따로 확인하는 안전 장치가 더해질 수 있습니다. 특정 요청이 거절되는 것은 이 장치의 동작일 수도 있어서, 훈련이 만든 성향과 서비스 단계의 장치는 구분해서 봅니다.
다리오 아모데이는 OpenAI에서 GPT-2·GPT-3 연구에 참여한 뒤 Anthropic을 공동 창업했습니다. 두 연구 계보를 잇는 인물은 맞습니다.
트랜스포머 논문에는 8명, GPT-3 논문에는 31명이 저자로 올라 있습니다. 지금의 AI 제품은 연구·엔지니어링·안전·정책·제품 팀이 함께 만듭니다.
편집 내용을 저장하려면 admin 비밀번호로 로그인하세요. 한 번 로그인하면 이 기기에서 로그인 상태가 유지됩니다.