studiosoluta

video note · 36

36. Code 시연 기반) 듣고나면 GPT, 제미나이 이해 수준이 달라지는 강의 | 바이브코더 & AX 담당자 필수시청

배울 내용

이 강의는 모델을 사람처럼 기억하고 이해하는 존재로 설명하지 않기 위한 기초 자료입니다. 화면에서 보이는 답변은 토큰 분할, 숫자 표현, 관계 계산, 확률적 선택, 입력 기록의 결과입니다. “기억한다”는 표현 대신 이전 대화를 다시 입력에 포함한다고 말하는 편이 정확합니다.

초보자 수업에서는 여섯 개 개념을 한꺼번에 외우지 않습니다. 같은 문장을 설정만 바꿔 여러 번 실행하고, 존재하지 않는 정보와 최신 정보를 물어보며 관찰표를 남깁니다. 기능을 믿기 전에 어떤 입력과 설정으로 결과가 만들어졌는지 확인하는 습관을 목표로 합니다.

시간대별 정리

구간영상 흐름배울 내용
00:00:00–00:00:29인트로트랜스포머 이후 언어 처리 현상을 코드 결과 중심의 여섯 실습으로 확인하겠다고 안내합니다.
00:00:29–00:02:44실습 1: 텍스트는 어떻게 잘리는가한국어와 영어 문장을 토큰으로 나누어 보고, 토큰 수가 처리 용량과 비용에 연결된다고 설명합니다.
00:02:44–00:05:36실습 2: 단어가 수치가 되는 순간사과·배·자동차 등의 임베딩 유사도를 비교하고, 같은 단어도 문맥과 모델에 따라 숫자 표현이 달라질 수 있음을 보여 줍니다.
00:05:36–00:10:44실습 3: Attention 시각화로 문맥 처리 이해하기Q(Query, 찾는 정보), K(Key, 가진 정보), V(Value, 전달할 내용)의 관계와 여러 어텐션 헤드가 문장을 동시에 보는 방식을 시각화합니다.
00:10:44–00:13:52실습 4: 모델은 어떻게 다음 단어를 고르는가temperature와 top-p가 다음 토큰 후보의 확률 분포를 어떻게 바꾸는지 같은 입력의 반복 결과로 비교합니다.
00:13:52–00:17:52실습 5: LLM의 한계를 코드로 직접 확인하기존재하지 않는 자료 생성, 최신 날짜·환율을 모르는 현상, 한국어와 영어의 토큰 효율 차이를 시연합니다.
00:17:52–00:22:23실습 6: API로 모델 직접 제어하기시스템 지시로 같은 질문의 답변 방식을 바꾸고, 이전 대화를 매번 함께 보내 여러 차례 대화의 맥락을 유지합니다.
00:22:23–00:24:46마무리여섯 실습을 요약하고 환각·지식 단절·입력 한도를 외부 검색과 도구 사용으로 보완하는 다음 강의를 예고합니다.

학습 포인트

  • 토큰, 임베딩, 어텐션, 생성 확률이 각각 언어 모델 처리의 어느 부분을 설명하는지 구분할 수 있습니다.
  • 모델의 답변이 기억이나 확정된 사실이 아니라 입력과 설정에 따른 확률적 출력임을 설명할 수 있습니다.
  • 환각, 지식 단절, 컨텍스트 창 제약을 서로 다른 문제로 구분하고 각각 별도의 보완이 필요함을 이해합니다.

따라 하기

  • 같은 질문 하나를 정확한 사실 설명, 초보자용 비유, 질문으로 이끄는 설명 세 시스템 지시로 각각 실행합니다. 입력문, 설정, 결과, 사실 확인이 필요한 문장, 가장 적합한 사용 상황을 llm-observation.md 표에 기록합니다.