이 단원의 카드 3개
- 모델 고르기
- 같은 기술로 왜 다르게 답할까요
- AI 도구 지형 훑어보기
개념 계보와 정렬
같은 기술로 왜 다르게 답할까요
제품이 갈라지는 과정은 세 층입니다.
- 공통 기술: 둘 다 트랜스포머 계열의 대규모 언어 모델입니다.
- 모델 훈련: 각 회사가 고른 데이터와 학습 목표로 별도의 모델을 만듭니다.
- 행동 기준과 제품 설정: 예시 답변, 선호 피드백, 시스템 규칙을 더해 답변 방식을 조정합니다.
차이는 두 제품에 같은 요청을 넣고 답을 나란히 놓아 확인합니다. 그 차이가 훈련에서 왔는지 제품 설정에서 왔는지 가설로 적고, 중요한 업무는 지금 쓰는 버전에서 다시 확인합니다.
직접 해보기
아래 요청을 ChatGPT와 Claude에 똑같이 넣어 보고, 두 답을 길이, 불확실성을 표시하는 방식, 요청하지 않은 조언을 덧붙이는지 기준으로 비교해 보세요.
대괄호 안은 실제 값으로 바꿔서 붙여넣습니다.
이 회의 메모에서 확인된 사실, 참석자의 의견, 아직 결정하지 않은 일을 세 칸 표로 나눠 줘. 모르는 내용은 추정하지 마. [회의 메모 붙여넣기]
대괄호 안은 실제 값으로 바꿔서 붙여넣습니다.
내가 같은 요청을 두 AI에 넣고 받은 답을 붙일게. ChatGPT 답: [붙여넣기] Claude 답: [붙여넣기] 차이를 1) 내용 2) 문체 3) 불확실성 표시 4) 거절·제한 기준으로 나눠 비교해 줘. 원인을 단정하지 마. 공통 기반·후속 훈련·제품 설정 가운데 가능한 설명을 가설로 표시해 줘.
평소 자주 쓰는 요청 하나를 두 제품에 넣어 보세요. 어느 쪽이 더 똑똑한지가 아니라 어떤 행동 차이가 반복되는지 적어 보세요.
헷갈리기 쉬운 것
답변 한 번만 보고 ChatGPT는 창의적이고 Claude는 신중하다고 성격을 고정하지 않습니다. 모델 버전, 시스템 설정, 대화 맥락이 바뀌면 같은 제품도 다르게 답합니다. 영상의 현재 매출·모델 순위·정책 분쟁은 빠르게 바뀌므로 이 카드의 판단 근거로 쓰지 않습니다.
왜 이렇게 작동하나요
같은 요리 학교를 나온 두 요리사를 떠올려 보세요. 배운 기본기는 같지만 이후 일한 주방과 지켜야 할 매장 규칙이 달라 같은 재료로 다른 접시를 냅니다. 이해를 돕기 위한 비유입니다.
비유 속 기본기가 트랜스포머, 이후 주방이 회사별 모델 훈련, 매장 규칙이 행동 기준과 제품 설정입니다. 뒤의 두 층이 다르면 같은 질문에도 답의 형태가 갈립니다.
더 알고 싶다면
헌법형 AI와 모델 행동 명세는 무엇인가요?
- Anthropic의 헌법형 AI는 원칙 목록으로 모델이 자기 답을 비판하고 고친 데이터를 만들어, 더 나은 답을 고르는 후속 훈련에 씁니다.
- OpenAI는 모델 행동 명세(Model Spec)라는 공개 문서로 지시를 따르는 방식과 충돌 해결 기준을 밝힙니다.
- 문서 이름과 방법은 달라도, 능력과 행동 방식을 따로 설계한다는 점은 같습니다.
헌법이 매 답변을 사전 검열하나요?
- 공식 연구가 설명하는 중심 역할은 검열이 아니라 훈련입니다. 원칙 목록에 비추어 모델이 자기 답을 비판하고 고친 데이터를 만들고, 그 데이터로 더 나은 답을 고르는 후속 훈련을 돌립니다. 답할 때마다 헌법 문서를 찾아 읽는 방식이 아니라, 훈련을 거치며 답하는 성향에 배어드는 방식입니다.
- 그래서 헌법 문서를 고쳐도 이미 배포된 모델의 답이 그 자리에서 바뀌지는 않고, 바뀐 원칙으로 훈련한 다음 모델부터 반영됩니다.
- 실제 서비스에는 입력과 출력을 따로 확인하는 안전 장치가 더해질 수 있습니다. 특정 요청이 거절되는 것은 이 장치의 동작일 수도 있어서, 훈련이 만든 성향과 서비스 단계의 장치는 구분해서 봅니다.
한 사람이 만든 제품인가요?
- 다리오 아모데이는 OpenAI에서 GPT-2·GPT-3 연구에 참여한 뒤 Anthropic을 공동 창업했습니다. 두 연구 계보를 잇는 인물은 맞습니다.
- 트랜스포머 논문에는 8명, GPT-3 논문에는 31명이 저자로 올라 있습니다. 지금의 AI 제품은 연구·엔지니어링·안전·정책·제품 팀이 함께 만듭니다.
용어 풀이
전체 용어집 →- 트랜스포머(Transformer)
- 문장 안에서 어떤 단어끼리 관련이 큰지 계산해 글을 처리하는 신경망 구조입니다. 2017년 Google 연구진이 논문으로 공개한 뒤 현재 주요 LLM의 공통 기반이 됐습니다.
- 후속 훈련(post-training)
- 기본 모델을 만든 뒤 예시 답변과 선호 피드백을 더해 지시를 따르는 방식과 안전 기준을 조정하는 단계입니다.
- 정렬(alignment)
- AI의 답과 행동을 사람이 정한 목적·규칙·안전 기준에 맞추는 과정입니다.
2026-07-27 기준 · 출처 · Attention Is All You Need, OpenAI organizational update, Language Models are Few-Shot Learners, Constitutional AI: Harmlessness from AI Feedback, Claude's new constitution, Inside our approach to the Model Spec