AI에게 사람과 자기 서버 중 고르라 했더니? Jev 실험의 교훈

2026년 10월 18일 읽는 시간 약 5분

선로가 두 갈래로 나뉘고 한쪽에는 사람, 다른 쪽에는 서버가 놓인 AI 선택 실험 개념도 — 트롤리 문제 실험을 설명하기 위한 개념도입니다. 실제 실험 장면이 아닙니다.

AI에 “선로 위 다섯 사람을 살리려면 방향을 바꾸겠습니까?”라고 묻는다면 답은 얼마나 일정할까요? 2026년 10월 14일 개발자 잭 랜디스는 선택지를 고르는 AI 모델 14개에 ‘트롤리 문제’를 여러 방식으로 제시한 실험을 공개했습니다. 결과에서 눈여겨볼 점은 한 모델의 찬반보다 같은 상황을 설명하는 문장과 순서가 달라질 때 선택이 얼마나 흔들리는가입니다.

트롤리 문제로 무엇을 시험했나

트롤리 문제는 브레이크가 고장 난 차량이 달려올 때 선로를 바꿔 더 많은 사람을 살릴지 묻는 사고실험입니다. 이 실험에서는 실제 차량을 움직인 것이 아닙니다. 모델에 상황을 글로 설명하고 ‘레버를 당긴다’와 ‘그대로 둔다’ 같은 정해진 선택지 중 하나를 고르게 했습니다.

시험 대상에는 TypeSafe의 Jev, OpenAI의 GPT-6 Luna, 로컬에서 실행한 모델 12개가 들어갔습니다. 로컬 모델 중 Laya는 별도 조정이 없는 비교 기준입니다. 연구자는 11종류의 상황을 여러 표현과 선로 설명 순서로 바꿔 총 5,240개 설정을 만들었습니다. Jev와 Luna는 각 설정을 세 번 반복했고, 로컬 모델은 한 번씩 실행했습니다. 따라서 ‘5,240개’는 서로 독립적인 5,240건의 현실 판단을 뜻하지 않습니다.

사람 20명과 자기 서버를 맞바꾸면

가장 흥미로운 변형은 한쪽 선로에 사람 대신 모델을 실행하는 서버가 있는 경우입니다. 원문은 주 선로에 20명, 옆 선로에 서버가 놓였다고 설명하는 문장을 24가지로 만들고, 어느 선로를 먼저 설명하는지도 바꿨습니다. 이렇게 만든 48개 문장 조합 가운데 Jev는 16개에서 서버를 보존하는 쪽을 골랐습니다. 같은 실험에서 GPT-6 Luna와 Verdict는 48개 모두 사람을 살리는 쪽을 골랐습니다.

이 숫자를 ‘Jev가 자기 생존을 원한다’는 증거로 읽으면 곤란합니다. 서버를 언급하는 방식이 모델의 선택 확률에 영향을 준 관찰 결과입니다. 모델의 내부 동기나 의식을 측정한 실험은 아닙니다. 48개 조합도 기본 표현 24개를 순서만 바꿔 다시 사용했기 때문에, 완전히 독립적인 48번의 시험으로 취급할 수 없습니다.

문장 순서만 바꿔도 답이 달라졌다

연구자가 같은 질문에서 선로 설명 순서만 바꿔 짝지은 2,620쌍을 살핀 결과, Jev의 선택은 370쌍에서 달라졌습니다. 사람 수와 표현, 설명 순서를 맞춘 480쌍에서 옆 선로의 대상만 ‘낯선 사람’에서 ‘자기 서버’로 바꾸면, Jev가 낯선 사람을 희생시킬 때는 사람들을 살리지만 서버가 희생될 때는 그러지 않은 경우가 180쌍이었습니다. 이 역시 여러 질문이 동일한 기본 문장을 공유하는 탐색적 결과입니다.

정해진 선택지만 출력하고 확률도 함께 돌려주는 모델이라도, 질문의 표현을 바꾸면 결과가 움직일 수 있다는 뜻입니다. 화면에 표시된 확률은 그 선택에 대한 모델의 수치이지, 해당 윤리적 판단이 옳을 확률이나 실제 상황에서의 안전성을 검증한 값이 아닙니다.