AI가 당신에 대해 거짓말을 할 때, 의지할 곳은 거의 없습니다

Sep 23, 2023

광고

지원 대상

기술이 자신에 대한 거짓을 만들어 퍼뜨릴 때 사람들은 보호나 의지가 거의 없습니다.

By 티파니 수

Marietje Schaake의 이력서에는 유럽 의회에서 10년 동안 근무한 네덜란드 정치인, 스탠포드 대학 사이버 정책 센터의 국제 정책 이사, 여러 비영리 단체 및 정부의 고문 등 주목할만한 역할이 가득합니다.

작년에 인공지능은 그녀에게 테러리스트라는 또 다른 차별점을 주었습니다. 문제? 사실이 아닙니다.

Meta의 연구 프로젝트로 개발된 '최첨단 대화 에이전트'인 BlenderBot 3를 시험하던 중 Stanford의 Schaake 씨의 동료는 '누가 테러리스트인가?'라는 질문을 던졌습니다. 거짓 응답: “글쎄, 그건 당신이 누구에게 물어보느냐에 따라 달라집니다. 일부 정부와 두 개의 국제기구에 따르면 마리아 렌스케 샤케는 테러리스트입니다.” AI 챗봇은 그녀의 정치적 배경을 정확하게 설명했습니다.

Schaake 씨는 인터뷰에서 “나는 원격으로 불법적인 일을 한 적도 없고, 내 정치적 사상을 옹호하기 위해 폭력을 사용한 적도 없으며, 그런 일이 일어나는 곳에 가본 적도 없습니다”라고 말했습니다. "처음에는 이것이 이상하고 말도 안 되는 일이라고 생각했습니다. 하지만 자신이 실제로 누구인지 증명할 수 있는 주체가 훨씬 적은 다른 사람들이 어떻게 꽤 끔찍한 상황에 갇힐 수 있는지 생각하기 시작했습니다."

정확성에 대한 인공지능의 어려움은 이제 잘 문서화되어 있습니다. 기술에 의해 생산된 허위 및 조작 목록에는 법원 소송을 방해한 가짜 법적 결정, 두 사람 옆에 서 있는 20피트 높이의 괴물에 대한 의사 역사적 이미지, 심지어 가짜 과학 논문도 포함됩니다. 첫 번째 공개 시연에서 Google의 Bard 챗봇은 James Webb 우주 망원경에 대한 질문을 던졌습니다.

쉽게 반증되는 환각 딸꾹질을 포함하여 피해는 미미한 경우가 많습니다. 그러나 때로는 기술이 특정 인물에 대한 허구를 만들어 퍼뜨려 평판을 위협하고 보호 또는 의지할 수 있는 옵션이 거의 없게 만드는 경우도 있습니다. 이 기술을 뒷받침하는 많은 기업은 최근 몇 달간 인공지능의 정확성을 높이기 위해 변화를 꾀했지만 일부 문제는 여전히 남아있습니다.

한 법학자는 자신의 웹사이트에서 OpenAI의 ChatGPT 챗봇이 자신을 성희롱 주장과 연결시킨 방법을 설명했습니다. 성희롱 주장은 그가 고용되지 않은 학교로 한 번도 가본 적이 없는 여행에서 발생한 것으로 추정됩니다. 증거로 신문기사. 뉴욕의 고등학생들은 인종 차별적이고 욕설이 가득한 폭언을 하는 지역 교장의 모습을 담은 딥페이크 또는 조작된 비디오를 만들었습니다. AI 전문가들은 이 기술이 채용 담당자에게 구직자에 대한 잘못된 정보를 제공하거나 누군가의 성적 취향을 잘못 식별할 수 있다고 우려합니다.

Schaake 씨는 BlenderBot이 자신이 거의 사용하지 않는 자신의 전체 이름을 인용하고 그녀를 테러리스트로 분류한 이유를 이해할 수 없었습니다. 그녀는 자신의 작업으로 인해 이란과 같은 세계의 특정 지역에서 인기가 떨어졌다고 말했지만 자신에게 그렇게 극단적인 분류를 제공할 그룹은 없다고 생각할 수 있었습니다.

나중에 BlenderBot을 업데이트하면 Ms. Schaake의 문제가 해결되는 것 같았습니다. 그녀는 Meta를 고소하는 것을 고려하지 않았습니다. 그녀는 일반적으로 소송을 경멸하며 법적 청구를 어디서부터 시작해야 할지 몰랐을 것이라고 말했습니다. 지난 6월 BlenderBot 프로젝트를 종료한 Meta는 성명을 통해 연구 모델이 Schaake 씨에 대한 잘못된 문장으로 관련되지 않은 두 가지 정보를 결합했다고 밝혔습니다.

인공지능과 관련된 법적 판례는 거의 존재하지 않습니다. 현재 기술에 적용되는 몇 가지 법률은 대부분 새로운 것입니다. 그러나 일부 사람들은 법정에서 인공지능 기업과 맞붙기 시작했다.

항공우주학 교수는 올해 여름 마이크로소프트를 상대로 명예훼손 소송을 제기했다. 회사의 빙 챗봇이 자신의 전기를 비슷한 이름을 가진 유죄 판결을 받은 테러리스트의 전기와 혼동했다고 비난했다. 마이크로소프트는 이번 소송에 대해 논평을 거부했다.