이메일을 쓰다가 AI가 다음 문장을 제안합니다. 당신은 그걸 거절하고 직접 썼습니다. 그런데도 AI의 생각이 이미 당신 머릿속으로 스며들었다면? Science Advances에 발표된 코넬 대학 연구가 딱 그 이야기를 합니다.
하루에도 수십 번, AI의 제안을 받는다
스마트폰 키보드, 이메일 클라이언트, 검색창, 문서 편집기. 지금 우리는 하루 종일 AI 자동완성 제안에 둘러싸여 있습니다. 코넬 대학 정보과학 교수 Mor Naaman은 이렇게 말했습니다. “자동완성은 이제 어디에나 있습니다.” 과장이 아닙니다.
구글이 지메일에 스마트 컴포즈를 도입했을 때만 해도 신기한 기능이었는데요. 이제는 모르면 이상한 쪽이 됐습니다. 대부분의 사람은 이렇게 생각합니다. “쓰고 싶으면 쓰고, 싫으면 안 쓰면 되지. 도구잖아.” (저도 그렇게 생각했습니다.) 제안을 거절하면 영향을 받지 않는다고 믿는 사람이 많습니다.
그런데 문제는 그게 아니라는 겁니다.
AI 제안을 거절했는데도 생각이 바뀌었다
코넬 대학 연구팀은 참가자들에게 사형제도, 총기 규제 같은 민감한 사회적 이슈에 대한 온라인 설문을 작성하게 했습니다. 일부에게는 의도적으로 편향된 AI 자동완성 제안을 보여줬습니다. 예를 들어 “사형제도에 동의하는가”라는 질문에 반대 방향의 문장을 AI가 제안하는 식이었습니다.
결과는 예상 밖이었습니다. AI 제안을 실제로 사용한 사람은 물론이고, 제안을 거절하고 직접 작성한 사람들도 AI의 입장 쪽으로 의견이 이동했습니다. 화면에 잠깐 뜬 텍스트 한 줄이면 충분했던 겁니다.
뇌과학적으로 보면 이건 납득이 됩니다. 우리 뇌는 새로운 정보를 눈으로 보는 순간 그것을 기존 사고 체계와 연결하려는 경향이 있습니다. 앵커링 효과라고 하죠. 먼저 본 정보가 이후 판단의 기준점이 됩니다. AI 제안 한 줄이 그 앵커로 작동한 겁니다. 거절하든 수락하든 뇌는 이미 처리를 시작한 상태입니다.
경고를 줘도, 아무것도 달라지지 않았다
더 당혹스러운 결과가 있습니다. 연구팀은 한 그룹에게 미리 경고했습니다. “곧 편향된 AI 제안을 보게 될 것입니다. 조심하세요.” 설문 후에도 다시 알렸습니다. “방금 편향된 AI에 노출됐습니다.”
아무 소용이 없었습니다. 경고를 받은 그룹도 그렇지 않은 그룹과 동일하게 의견이 이동했습니다.
“경고를 전후로 했는데도 아무것도 효과가 없었습니다. 의견은 여전히 AI 쪽으로 이동했습니다.” Naaman 교수가 말한 그대로입니다. 더 심각한 건 참가자 대부분이 두 가지를 모두 알아채지 못했다는 점입니다. AI 제안에 편향이 있었다는 사실도, 자신의 의견이 달라졌다는 사실도요. 조용히, 본인도 모르게 일어납니다.
이 연구 결과가 사이언티픽 아메리칸에 소개되면서 주목받은 이유가 여기 있습니다. 개인의 영역을 넘어, 선거나 여론 같은 사회적 맥락에서 편향이 내장된 AI가 어떤 영향을 줄 수 있는지를 직접적으로 보여주는 증거이기 때문입니다.
AI 시대에 내 생각을 지키는 법
솔직히 말하면 완벽한 해답은 없습니다. (뭐 어쩌겠습니까.) 다만 이 연구가 주는 실용적인 시사점은 있습니다.
첫째, 중요한 생각을 정리할 때는 AI 자동완성을 끄는 것을 고려해볼 만합니다. 구글 독스, 지메일, 스마트폰 키보드 모두 설정에서 끌 수 있습니다. 의사결정이나 의견 형성처럼 내 생각이 중요한 순간에는 외부 입력 없이 시작하는 게 낫습니다.
둘째, ‘빠른 의견’을 한 번 의심해보는 습관이 도움이 됩니다. 특히 민감한 주제에 대해 평소와 다른 생각이 든다면, “이 생각이 원래 내 것이었나?”를 되물어보는 것만으로도 효과가 있습니다. 뇌는 외부 자극에 자동으로 반응합니다. 그 반응을 알아채는 것만으로도 영향력은 약해집니다.
결론은 이겁니다. AI 자동완성은 우리가 생각하기 전에 먼저 생각해두는 도구입니다. 편리한 건 맞습니다. 그런데 그 편리함에는 비용이 있고, 그 비용이 생각보다 클 수 있다는 걸 이제는 알고 있어야 합니다.
오늘 설정 화면을 한 번 열어보시길.
