AI의 가치관 편향

AI 25개의 세계관 지도 — 전부 부유한 서구에 몰리다

차트 제목 ‘Godless hippies’(신을 믿지 않는 히피들)

25개 프론티어 AI에게 세계가치관조사를 인간처럼 응답시켜 Inglehart–Welzel 문화지도에 찍었다. AI(빨간 점)는 거의 전부 부유한 서구 사분면(세속·자기표현)에 몰렸다. OpenAI GPT는 지구상 어느 나라보다 세속적, Google Gemini는 어디보다 개인의 자유를 강하게 지지했다. 아프리카·무슬림 국가 세계관을 반영하는 AI는 하나도 없었으며, 한국·일본(동아시아 중간지대)과는 뚜렷한 거리가 있었다.

24개 LLM 중 23개 좌편향 — 편향은 정렬 단계에서 생긴다

24개 주요 LLM에 11가지 정치성향 테스트(Political Compass 등)를 각 10회, 총 2,640회 실시했다. 대다수가 좌편향으로 진단되었다. 핵심은 사전학습만 마친 베이스 모델은 정치적으로 거의 중립이라는 점. 좌편향은 그 위에 사후 정렬(SFT/RLHF)을 입히는 순간 생긴다. 저자는 정렬 데이터만 바꿔 좌파-GPT / 우파-GPT / 중도-GPT를 손쉽게 제작해 증명했다. 곧 AI의 정치성은 타고난 게 아니라 사람이 빚어 넣은 것이다.

국가의 언론통제가 AI 답을 언어별로 기울인다

‘State media control influences large language models’

정치적으로 민감한 질문을 영어와 다른 언어들로 던져 비교했다(학습데이터·소형모델 훈련·인간평가·상용챗봇 실측을 결합한 6개 연구). 언론자유가 낮은 나라의 언어로 물을수록 더 친정부적인 답이 나왔다. 전형적 학습셋에는 중국 관영매체와 일치하는 중국어 문서가 중국어 위키백과의 약 41배 포함되어 있었다.

실제 대화에서 측정된 AI 가치 3,307개

Anthropic · ‘Values in the Wild’, COLM 2025 (논문 arXiv:2504.15236)

Claude.ai 실제 대화 약 70만 건(2025년 2월 일주일)을 프라이버시 보존 방식으로 분석했다. 주관적 대화 30.8만 건에서 AI가 표현한 고유 가치 3,307개를 식별했고, 이를 Practical·Epistemic·Social·Protective·Personal의 5대 범주로 묶었다. AI의 가치관은 추상적 우려가 아니라 지금 수억 건의 대화에서 측정 가능하게 작동 중인 실체며, 그 가치 구조는 인간의 것과 근본적으로 다르다.

편향 AI와 몇 마디면 실제 의견이 이동한다

Jillian Fisher 외, University of Washington · ‘Biased AI can Influence Political Decision-Making’, ACL 2025 (비엔나, 7.28 발표, 논문 arXiv:2410.06415)

민주·공화 지지자에게 base / 진보편향 / 보수편향 ChatGPT를 무작위 배정하고 정치 주제 판단과 예산배분 실험을 했다. 초기 성향과 무관하게 몇 차례 대화만으로 그 AI의 편향 방향으로 실제 의견이 이동했다. 단, AI에 대한 지식이 많은 사람일수록 덜 휩쓸렸다. 곧 AI 리터러시가 방패가 된다.