“이름을 밝히지 말아야 할 사람”의 지위를 얻는 것은 매일 있는 일이 아닙니다. 그러나 OpenAI의 ChatGPT에 따르면 그 묘한 구별이 나에게 부여되었습니다.뉴욕 타임즈,월스트리트저널및 기타 출판물.
1년 넘게 ChatGPT를 사용하여 온라인에서 내 이름을 검색하려는 사람들은 즉시 오류 경고를 받았습니다.
알고 보니 나는 AI 시스템에 의해 사실상 사라진 소수의 개인 집단에 속해 있었다. 우리가 볼드모트 같은 지위에 도달하게 된 과정은 인공 지능의 역할이 빠르게 확대되고 있을 뿐만 아니라 OpenAI와 같은 회사의 힘에 대한 소름 끼치는 이야기입니다.
이 모호한 구별에 저와 함께 하버드 교수 Jonathan Zittrain, CNBC 앵커 David Faber, 호주 시장 Brian Hood, 영어 교수 David Mayer 및 기타 몇몇 사람들이 있습니다.
공통 스레드는 과거 ChatGPT가 우리 모두에 대해 생성한 잘못된 이야기인 것 같습니다. 회사는 오류를 지우는 것이 아니라 문제의 개인을 지워 문제를 바로잡은 것으로 보인다.
지금까지 고스팅은 ChatGPT 사이트에만 국한되어 있지만 논쟁은 AI의 용감한 신세계에서 새로운 정치적, 법적 문제를 강조합니다.
사이버 삭제를 향한 나의 길은 ChatGPT의 기괴하고 완전히 조작된 계정으로 시작되었습니다. 나로서그 당시에 쓴ChatGPT는 제가 조지타운 법대에 재학 중이던 2018년에 법대생들과 함께 알래스카로 여행을 갔을 때 발생한 것으로 추정되는 일(한 번도 발생하지 않음)에 근거하여 저에 대한 성희롱 주장이 있었다고 허위 보고했습니다. (내가 가르친 적이 없는 곳).
허위 및 명예 훼손 주장을 뒷받침하기 위해 ChatGPT는 한 번도 작성되지 않은 Washington Post 기사를 인용했으며 신문에서 발행한 적이 없는 성명에서 인용했습니다.워싱턴포스트가 허위사실을 조사했다그리고 또 다른 AI 프로그램인 “GPT-4로 구동되는 Microsoft의 Bing이 Turley에 대한 잘못된 주장을 반복했다”는 사실을 발견했습니다.
이런 방식으로 명예훼손을 당한 사람들 중 일부는 AI 명예훼손 신고로 이들 회사를 고소하기로 결정했지만 나는 그렇게 하지 않았습니다. 나에게 연락한 적도 없는 회사에서 문제가 해결될 것이라고 생각했다.
그리고 말하자면, 적어도 어느 정도는 나를 디지털 방식으로 삭제함으로써 그렇게 되었습니다. 일부 알고리즘 세계에서는 개인에 대한 논의가 없으면 거짓 이야기도 없다는 논리가 간단합니다.
볼드모트와 마찬가지로 죽음조차도 종결을 보장하지 않습니다. 메이어 교수는 맨체스터대학교 드라마학과 명예교수이자 명예연구교수로 지난해 세상을 떠났다. 그리고 ChatGPT는 여전히 그의 이름을 말하지 않을 것으로 알려졌습니다.
그가 죽기 전에 그의 이름은 체첸 반군에 의해 테러 감시 목록에 사용되었습니다. 그 결과 눈덩이처럼 불어나는 교수 조합이 탄생했고, 그는 여행과 통신 제한에 직면하게 됐다.
호주 시장인 후드는 인공지능이 만들어낸 허위 서술에 너무 좌절해서 뇌물수수 혐의로 체포됐다.OpenAI에 대해 법적 조치를 취했습니다. 그것이 그 자신의 삭제에 기여했을 수도 있습니다.
회사의 투명성과 대응력 부족으로 인해 이러한 사건에 대한 우려가 가중되었습니다. 아이러니하게도 우리 중 많은 사람들은 인터넷에 대한 허위 공격과 우리에 대한 허위 계정에 익숙합니다. 그러나 이 회사는 AI가 주제가 무모하게 반대할 수 있는 거짓 이야기를 생성했다는 것 외에 다른 이유 없이 개인을 일종의 온라인 연옥으로 옮길 수 있습니다.
당신은 중죄인으로 거짓으로 보일 수도 있고, 유비쿼터스 정보 시스템에서 전혀 보이지 않을 수도 있습니다. 카포네 또는 캐스퍼, 갱스터 또는 유령 – 선택하세요.
Microsoft는 OpenAI 지분의 거의 절반을 소유하고 있습니다. 아이러니하게도 나는 이전에 Microsoft 창립자이자 억만장자 빌 게이츠가 인공 지능을 사용하여 “잘못된 디지털 정보”뿐만 아니라 “정치적 양극화”에 맞서 싸우려는 노력을 했다고 비판한 적이 있습니다. 게이츠는 AI의 등장을 ‘다양한 음모론’을 중단하고 특정 견해가 ‘디지털 채널에 의해 확대’되는 것을 방지하는 방법으로 본다. 그는 AI가 ‘확증 편향’을 확인함으로써 ‘정치적 양극화’에 맞서 싸울 수 있다고 덧붙였습니다.
나는 내 자신의 유령이 그러한 비판에 대한 보복이라고 믿지 않습니다. 게다가 다른 데스파레시도들과 마찬가지로 나는 여전히 사이트와 다른 시스템을 통해 눈에 띕니다. 그러나 이러한 회사가 이러한 강력한 시스템을 사용하여 개인에 대한 모든 참조를 제거하는 방법을 보여줍니다. 더욱이, 기업 경영진은 특히 책임이나 책임이 없는 경우 그러한 고스팅을 시정하려는 동기가 특별히 부여되지 않을 수 있습니다.
이는 모든 해결책이 입법 조치를 통해서만 나올 가능성이 높다는 것을 의미합니다. AI의 영향력은 기하급수적으로 확대되고 있으며, 이 신기술에는 분명한 이점이 있습니다. 그러나 해결해야 할 상당한 위험도 있습니다.
아이러니하게도 Zittrain 교수는 다음과 같은 글을 썼습니다.잊혀질 권리”기술과 디지털 공간에서. 그러나 그는 OpenAI 알고리즘에 의해 삭제되거나 차단되도록 요청한 적이 없습니다.
문제는 잊혀질 소극적인 권리 외에 알려질 권리도 있다는 점이다. 하이젠베르크의 순간이라고 생각해보세요.월터 화이츠전 세계에서는 ChatGPT에 “내 이름을 말해주세요”라고 요구합니다. 미국에서는 그러한 요구에 대해 확립된 선례가 없습니다.
이러한 제외나 삭제를 어두운 기업의 음모나 로봇 보복으로 볼 이유가 없습니다. 시스템이 심각하고 잠재적으로 비용이 많이 드는 오류를 범할 때 이는 기본 위치인 것으로 보이며 이는 훨씬 더 혼란스러울 수 있습니다. 이는 알고리즘이 의지나 반응이 거의 없이 사람들을 인터넷 심연으로 보내는 가능성을 높입니다. 시스템이 실수를 했기 때문에 당신은 유령이 되었고 이제 당신의 이름이 시스템에 대해 트리거됩니다.
이 모든 것이 부족합니다. 할 9000 AI 살인 분노로 “미안해요 데이브, 그렇게 할 수 없을 것 같아요”라고 말했습니다. 지금까지 이곳은 디지털 유령들의 작은 소굴이었습니다. 그러나 이는 이러한 시스템의 거의 확인되지 않은 힘과 앞으로의 상대적으로 미지의 바다에 대한 예입니다.
조나단 털리(Jonathan Turley)는 조지워싱턴대학교 공익법학과 샤피로 교수입니다. 그는 “필수불가결한 권리: 분노의 시대에 표현의 자유.”
댓글