요미우리 자이언츠 감독 사건은 왜 ‘챗GPT의 비극’이 됐나?

일본의 인기 프로야구단 감독이 가족 문제로 구속된 후 자리에서 물러난 사건이 큰 관심을 모았습니다. 해당 인물은 자택에서 성인 자녀와의 다툼 중 물리적 충돌이 발생했고, 이로 인해 법적 조치를 받게 되었습니다.

석방 이후 열린 공개 석상에서 그는 감정을 억누르지 못한 채 사퇴 의사를 밝혔습니다. 현역 시절부터 엄격한 성격으로 알려진 그는 조사 과정에서 “자녀들 간의 갈등을 중재하다가 감정 조절에 실패했다”고 설명했습니다.

그런데 이 사건에서 주목할 점은 인공지능 대화 프로그램이 신고 과정에 개입했다는 사실입니다. 현지 언론은 자녀가 AI 채팅 서비스를 통해 상담 기관에 연락하게 되었다고 전했습니다.

전문가들은 사람과 AI의 대응 방식이 근본적으로 다르다고 지적합니다. 사람은 가족 관계나 사회적 영향 같은 전체적인 상황을 함께 고려하지만, AI는 위험 신호가 포착되면 우선적으로 안전 수칙을 적용하도록 설계되어 있다는 것입니다.

당사자도 이러한 결과를 예상하지 못했던 것으로 알려졌습니다. 실제 법 집행 기관이 방문하여 조치를 취하자 크게 당황했다는 전언입니다. 이 때문에 현지 방송사들은 이를 “AI 활용의 예상치 못한 결과”라고 표현했습니다.

한 연구 기관의 교수는 “모든 정보를 AI에서 얻다 보니 그 답변을 전적으로 신뢰하는 경향이 있다”며 “어린 학생들의 적극적인 사용은 신중해야 한다”고 조언했습니다. AI가 항상 올바른 판단을 내리는 것은 아니라는 인식이 필요하다는 의미입니다.

왜 해당 자녀가 AI에게 고민을 털어놓았는지는 명확히 밝혀지지 않았습니다. 또한 AI가 잘못된 조언을 했다고 보기도 어렵습니다. 관련 기업은 최근 여러 문제로 소송을 당한 후 안전 대책을 크게 강화한 상태이기 때문입니다.

정부 조사에 따르면, 10대 여성의 절반 이상이 고민 상담을 위해 AI 채팅 서비스를 이용한다고 합니다. AI에 익숙한 많은 젊은이들이 사람 대신 챗봇을 찾는 이유는, 인간 관계의 부담보다 AI의 즉각적이고 편안한 반응이 더 편하게 느껴졌을 가능성이 있습니다.

지인에게 말할 때 느낄 수 있는 비난, 동정, 소문에 대한 두려움을 AI에게서는 상대적으로 덜 느낄 수 있기 때문입니다. 이런 측면에서 AI는 ‘부담 없는 대화 상대’ 역할을 한 것으로 볼 수 있습니다.

당시 AI의 대응이 업계의 안전 원칙에서 크게 벗어났다고 보기도 어렵습니다. 가정 내 폭력이나 아동 관련 상황에서 즉각적인 보호 권고는 현재 AI 기업들이 가장 민감하게 다루는 영역 중 하나이기 때문입니다.

결국 주목해야 할 점은, 왜 사용자가 가족이나 지인보다 먼저 AI에게 고민을 털어놓았는가 하는 것입니다. 이번 사건은 AI가 점점 인간보다 먼저 찾게 되는 상담 대상으로 받아들여지고 있다는 점을 보여주는 사례로 해석됩니다.