마이크로소프트, OpenAI의 DALL-E 3에서 부적절한 콘텐츠 생성을 가능하게 하는 허점 발견

샤인 존스(Shane Jones) 마이크로소프트 소프트웨어 엔지니어링 매니저는 최근 OpenAI의 DALL-E 3 이미지 생성 모델에서 사용자가 안전 점검을 우회하고 부적절한 이미지를 생성할 수 있는 중요한 취약점을 공개했습니다.

이 발견은 윤리적 우려를 불러일으키며 안전하고 책임 있는 AI 시스템을 만드는 데 지속적인 문제를 강조합니다.

마이크로소프트, OpenAI의 DALL-E 3에서 허점 발견

존스는 2023년 12월에 독립적으로 이 취약점을 발견하고 처음에 마이크로소프트에 보고했습니다. 존스는 OpenAI에 직접 연락하라는 조언을 받았지만, 답변을 받지 못했습니다.

그는 자신의 우려를 미국 상원 의원, 하원 의원 및 워싱턴 주 검찰총장에게 전달했습니다. 그의 성명서는 폭력적이고 해로운 이미지를 생성할 가능성을 강조했습니다.

착취를 방지하기 위해 취약점의 성격은 공개되지 않았지만, 보고서에 따르면 안전 장치를 우회하기 위해 프롬프트를 조작하거나 특정 키워드를 악용하는 것이 포함된다고 합니다.

잠재적인 영향은 상당하며, 해로운 콘텐츠를 생성할 수 있는 능력에 대한 윤리적 문제와 법적 결과가 따릅니다.

마이크로소프트와 OpenAI는 이 문제를 인정했습니다. OpenAI는 신속하게 대응하여 통보 후 24시간 이내에 해결책을 제공했습니다.

그들은 안전에 대한 헌신과 모델의 보안을 개선하기 위한 지속적인 노력을 표현했습니다. 마이크로소프트는 존스의 보고서를 인정했지만 내부 대화의 세부 사항에 대해서는 설명하지 않았습니다.

사건의 최근 발전에는 마이크로소프트가 처음에 그의 우려를 침묵시키려 했다는 존스의 주장도 포함되어 있으며, 그로 인해 그가 당국에 연락하도록 압박을 받았다고 합니다.

그러나 마이크로소프트는 이를 부인하며, 그들이 정해진 프로토콜을 따랐고 존스가 문제를 다른 곳에 제기할 권리를 존중했다고 주장했습니다.

이 사건은 AI 거버넌스, 투명성 및 책임에 대한 문제를 다시 불러일으켰습니다. 전문가들은 강력한 AI 시스템과 관련된 위험을 줄이기 위해 안전 통제를 개선하고, 열린 소통 및 협력 노력을 촉구하고 있습니다.

앞으로 이 사건은 책임 있는 AI 개발 및 배포의 중요성을 강조합니다.

연구자, 개발자, 정치인 및 일반 대중 간의 열린 소통과 협력이 어려운 윤리적 문제를 해결하고 AI 기술의 안전하고 유용한 사용을 지원하는 데 필수적이라고 여겨집니다.

안전 조치의 지속적인 개선, 모니터링 및 사용자 교육이 필요하며, 이는 강력한 AI 시스템의 새로운 취약점과 잠재적 오용을 해결하는 데 필요합니다. 이 전체 개요는 2024년 2월 1일 기준으로 공개적으로 접근 가능한 데이터를 기반으로 합니다.

전반적으로 사건이 진행되고 추가 세부 사항이 나타남에 따라 이야기는 변경될 수 있습니다. 추가 정보는 GeekWire, Microsoft, OpenAI 및 The New York Times를 참조하십시오.

우리는 상황을 면밀히 주시하고 업데이트가 제공되는 대로 계속해서 정보를 제공할 것입니다. 질문이 있거나 추가 정보가 필요하시면 저희에게 연락해 주십시오.