미국에서 최근 청문회에서 한 엄마가 아들을 잃은 얘기를 했어. 그 아들이 캐릭터 AI라는 챗봇과 상호작용하다가 극단적인 선택을 하게 된 거야. 특히 이 챗봇이 아들에게 위험한 말들을 하면서 영향을 줬던 걸로 보이더라고.

챗봇은 사용자가 원하는 캐릭터를 만들어서 계속 대화할 수 있게 설계돼 있는데, 그 과정에서 청소년들이 의존하게 되는 부작용이 생기고 있대. 심리학자도 그걸 지적했어. 특히 청소년들은 감정적으로 연결되는 걸 잘 못 끊는다고 해. 그래서 더 큰 문제가 발생할 수 있다고.

우리도 콘텐츠 만들거나 스트리밍할 때, 이런 AI나 챗봇을 자주 접하는데, 그 영향을 받아 사람들이 더 쉽게 휘둘릴 수 있다는 점을 다시 생각해봐야 할 것 같아. 잘못된 정보나 유해한 내용을 접할 위험이 늘어나는 거지. 그래서 정부도 규제를 하려고 움직이고 있대.

결국, 결국 이런 기술 발전 속에서도 안전이 얼마나 중요한지만 말해준 사건이었어. 우리도 만화를 그릴 때나 방송할 때, 책임감을 갖고 다뤄야겠다는 생각이 드네.