ChatGPT, 폭력 예방 안전장치 확대…OpenAI '청소년 보호·공공 안전 보고' 약속
OpenAI는 공식 블로그 OpenAI News를 통해 ChatGPT의 폭력 예방 기능을 강화한다고 밝혔다. 안전장치를 확대하고 더 이른 단계에서 개입하며, 공공 안전 관련 보고를 공개하겠다고 새로 약속했다.
OpenAI는 이 내용을 '커뮤니티 안전 보고서와 청소년을 위한 새로운 보호 장치(Community safety report and new protections for teens)'라는 제목으로 발표했다. 제목대로 이번 발표에는 두 가지가 담겼다. 하나는 커뮤니티 안전 보고서이고, 다른 하나는 10대 이용자를 위한 새 보호 장치다.
OpenAI가 밝힌 폭력 예방 강화책은 세 가지다. 안전장치의 적용 범위를 넓히는 것, 더 이른 시점에 개입하는 것, 그리고 공공 안전 보고를 새로 약속한 것이다. 세 가지 모두 ChatGPT에 적용된다. 이번 발표로 OpenAI는 ChatGPT의 폭력 관련 위험 대응을 사후 조치에서 사전 개입 쪽으로 넓히고, 그 결과를 외부에 공개하는 방향을 제시했다.
