챗봇과 7분 대화만으로 음모론 믿음 줄어들어…새 사건에도 효과

생성형 인공지능과 짧게 대화하는 것만으로도 막 나온 음모론적 주장에 대한 믿음이 줄어들 수 있다는 연구 결과가 나왔다. 미국 카네기멜런대·MIT·코넬대 연구진은 최근 두 차례 실험에서 대형 언어모델과 약 7분간 대화한 참가자들이 사실 요약문을 읽은 집단보다 음모론을 덜 믿었고, 그 효과가 몇 주 뒤 다른 사건에 대한 판단에도 일부 이어졌다고 밝혔다.

이번 연구는 도널드 트럼프 전 미국 대통령 피습 시도와 보수 성향 활동가 찰리 커크 피살 사건을 대상으로 진행됐다. 연구진은 미국 성인 표본을 모집한 뒤, 해당 사건과 관련한 음모론적 믿음을 보이는 참가자만 추려 실험에 참여시켰다. 트럼프 사건 실험에는 472명, 커크 사건 실험에는 1035명이 포함됐다.

참가자들은 세 집단으로 나뉘었다. 한 집단은 구글 제미나이와 최소 5차례 이상 문답을 주고받으며, 모델이 근거 중심의 대화로 음모론적 믿음을 낮추도록 설계된 대화를 했다. 다른 집단은 출처가 달린 사실 요약문을 읽었고, 나머지 집단은 고양이와 개 중 어느 쪽이 더 좋은 반려동물인지 묻는 무관한 대화를 했다. 연구진은 두 사건 모두 모델의 학습 시점 이후에 발생한 일이어서, 모델이 내부 지식에 의존하지 못하도록 확인된 사실과 반박된 주장, 아직 열려 있는 쟁점을 구분한 자료를 시스템 프롬프트에 넣었다. 커크 사건 실험에서는 웹 검색도 사실 확인 용도로만 허용됐다.

결과는 두 사건 모두에서 비슷했다. 약 7분간의 대화 뒤 참가자들의 자기 사건 관련 음모론 신념은 통제집단과 사실 요약문 집단보다 낮아졌다. ‘은폐나 공모가 있었다’는 식의 진술에 대한 동의도 줄었다. 다만 트럼프 사건 실험에서는 공식 설명에 대한 신뢰가 뚜렷하게 높아지지 않았는데, 당시에는 명확한 공식 설명이 아직 제시되지 않았기 때문으로 연구진은 해석했다. 커크 사건 실험에서는 당국이 이미 일부 정보를 공개한 상태였고, 공식 설명에 대한 신뢰가 소폭 상승했다.

연구진은 대화가 왜 효과를 냈는지도 분석했다. 트럼프 피습 시도처럼 범행 동기와 배경이 거의 알려지지 않은 경우에는, 모델이 단정적 반박보다 “아직 알려진 것이 많지 않다”는 점을 짚고 성급한 결론을 경계하도록 유도하는 방식이 많았다. 반면 커크 사건처럼 정보가 더 많은 경우에는 음모론적 사고가 사회에 미치는 해악을 강조하는 방식이 더 자주 나타났다.

효과는 이후 사건에 대해서도 일부 이어졌다. 트럼프 피습 시도 두 달 뒤 또 다른 무장 남성이 트럼프의 부지에서 체포됐을 때, 앞서 대화에 참여한 이들은 ‘진실은 소수의 권력자만 알 것’이라는 식의 주장에 덜 동의했다. 커크 피살 약 2주 뒤 미시간주 그랜드블랑 타운십의 한 예수그리스도후기성도교회에서 총격과 방화가 발생했을 때는 직접적인 효과가 뚜렷하지 않았지만, 일반적인 음모론 신념에서는 일부 완화 효과가 관찰됐다.

연구진은 이번 결과를 사례 연구로 규정하며, 실제로 음모가 존재하는 상황에서는 이런 접근이 부적절할 수 있다고 밝혔다. 또 같은 대화 방식이 반대로 음모론을 강화하는 데 악용될 가능성도 있다고 지적했다. 다만 사용자가 대화에 응할 의사가 있을 경우, 짧은 챗봇 대화만으로도 사실 요약문보다 더 큰 설득 효과를 낼 수 있다는 점은 확인됐다고 연구진은 설명했다.