AI가 결과물을 수백 개 만들어주는 시대, 마지막 하나를 고르는 기준은 어디에서 올까요?
RLHF·DPO·TASTE·LaMP와 모델 해석 가능성 연구를 연결해, 개인의 취향 데이터가 중요해질 이유를 살펴봅니다.
취향을 단순한 좋아요 기록으로 보지 않고, 선택한 후보·고르지 않은 후보·이유·맥락·확신을 함께 다룹니다.
개인정보, 필터 버블, 아첨, 변화하는 취향의 문제와 검증 방법도 짚었습니다.
마지막에는 제가 준비 중인 서비스의 방향을 짧게 공유합니다.
개인의 취향을 AI가 이해하고 활용하도록 돕는 방향이며, 서비스명·출시일·확정 기능은 아직 공개하지 않습니다.
여러분이 AI에게 매번 다시 설명하는 취향 한 가지를 댓글로 남겨주세요.
챕터
00:00 만드는 능력 다음의 경쟁
01:01 취향은 하나의 점수가 아니다
02:14 가치 함수라는 비유
03:26 사람의 선택은 어떻게 학습되나
04:51 TASTE가 측정한 판단의 간극
06:18 모델 안의 성향과 이유 학습
07:52 평균적인 AI에서 나를 아는 AI로
09:14 어떤 취향 데이터를 모아야 하나
10:49 취향 데이터가 중요해지는 이유
12:12 취향을 학습할 때의 함정
13:39 무엇으로 잘됐다고 판단할까
14:44 준비 중인 서비스에 관해
논문 및 공식 연구 자료
• Learning to summarize from human feedback (2020)
https://arxiv.org/abs/2009.01325
• Direct Preference Optimization (2023)
https://arxiv.org/abs/2305.18290
• TASTE: Can AI Models Judge AI Safety Research Proposals? (2026)
https://alignment.anthropic.com/2026/taste/
• Persona Vectors (2025)
https://arxiv.org/abs/2507.21509
• The Assistant Axis (2026)
https://arxiv.org/abs/2601.10387
• Emotion concepts and their function in a large language model (2026)
https://www.anthropic.com/research/emotion-concepts-function
• Teaching Claude Why (2026)
https://alignment.anthropic.com/2026/teaching-claude-why/
• LaMP: When Large Language Models Meet Personalization (ACL 2024)
https://aclanthology.org/2024.acl-long.399/
TASTE 수치는 AI 안전 연구 제안에 대한 전문가 선호 일치도이며, 실제 연구 성공률이나 모든 분야의 미감을 의미하지 않습니다.
연구 결과와 영상 제작자의 전망·설계 제안은 구분해 설명했습니다.
#AI #취향 #개인화 #TASTE #메이커에반
원문 전체보기
