OpenAI, 대선 사칭 챗봇에 대한 개발 중단

2024년 대선을 앞두고 인공지능의 오용 문제가 논의되고 있습니다.

OpenAI는 챗봇 'Dean.Bot'이 후보 Dean Phillips를 흉내 내는 것을 중단시켰습니다.

이는 OpenAI 정책에 명백히 위반되며, 이러한 사례를 통해 AI 기술의 정치적 활용에 대한 문제가 제기되었습니다.

OpenAI는 기술의 오용을 방지하기 위한 노력을 계속하고 있습니다.

 

 

 

 

 

 

 

챗봇 'Dean.Bot'의 등장

 

 

챗봇 'Dean.Bot'은 인공지능 스타트업 Delphi가 개발하였고, '우리는 더 좋은 것을 바란다'라는 슈퍼 PAC가 지원했습니다.

Dean Phillips라는 대선 후보를 지원하기 위해 만들어진 이 챗봇은 참신한 시도로 주목을 받았습니다.

 

그러나 이 챗봇을 이용하기 전, 웹사이트 방문자들은 챗봇의 성격을 설명하는 고지사항을 확인해야 했습니다.

이는 Dean.Bot이 실제 Dean Phillips가 아니라는 점을 명확히 하기 위한 것이었습니다.

그럼에도 불구하고, 이 챗봇의 등장은 인공지능 기술의 오용 가능성에 대한 논란을 일으켰습니다.

 

 

 

OpenAI의 정책과 'Dean.Bot'

 

 

'Dean.Bot'의 등장은 OpenAI의 정책에 직면하는 새로운 도전이었습니다.

이 회사는 인공지능 기술이 사람들에게 오해를 불러일으키는 것을 방지하기 위해 명확한 규정을 세워놓았습니다.

특히, OpenAI는 자신들의 기술이 정치적 캠페인이나 로비 활동에 이용되는 것을 허용하지 않았습니다.

 

그럼에도 'Dean.Bot'은 이를 어기는 방식으로 작동하였고, 이에 대한 대응이 필요했습니다.

이 챗봇은 Dean Phillips를 흉내 내는 것이 아니라는 점을 명시하고 있었지만, 그 기능이 실제로는 후보를 대변하는 것과 유사했습니다.

이는 OpenAI의 정책에 위배되는 행위로 간주되었고, 이에 따라 OpenAI는 'Dean.Bot'의 개발사에 대한 제재를 결정하였습니다.

 

 

 

OpenAI의 대응과 결과

 

 

'Dean.Bot'이 OpenAI의 정책을 어긴 결과, OpenAI는 이를 개발한 Delphi에 대한 조치를 취했습니다.

OpenAI의 대변인은 워싱턴 포스트에 이를 확인하였고, 이로 인해 'Dean.Bot'의 활동이 중단되었습니다.

이 사건이 발생한 시기는 OpenAI가 2024년 선거를 앞두고 기술의 오용을 방지하기 위한 조치를 발표한 직후였습니다.

 

이후 Delphi는 처음에는 OpenAI의 ChatGPT를 챗봇에서 제거하였으나, 최종적으로는 OpenAI의 개입에 따라 'Dean.Bot'을 완전히 중단하였습니다.

현재 'Dean.Bot'의 웹사이트를 방문하면 "죄송합니다, DeanBot은 현재 캠페인 중입니다!"라는 메시지와 함께 기술적인 문제로 인해 챗봇이 작동하지 않음을 알 수 있습니다.

 

 

 

정치 캠페인과 로비 활동에 대한 OpenAI의 입장

 

 

OpenAI는 자신들의 기술이 정치적 캠페인이나 로비 활동에 사용되는 것을 금지하고 있습니다.

이들은 이러한 활동이 선거의 공정성을 해칠 수 있고, 특정 후보나 정당에 불공정한 이점을 줄 수 있다는 점에서 이를 중요하게 생각하고 있습니다.

 

이 회사는 기술의 오용을 방지하고, AI가 사회에 미치는 영향에 대한 책임을 지기 위해 이러한 정책을 실행하고 있습니다.

이는 투명성, 공정성, 그리고 신뢰성을 유지하는 데 중점을 두고 있습니다.

 

OpenAI는 자신들의 기술이 대선 후보를 흉내 내는 챗봇 등으로 사용되는 것을 명확히 금지하며, 이는 OpenAI의 기술이 선거 과정에 부정적인 영향을 미치는 것을 막기 위한 것입니다.