OpenAI가 ChatGPT를 세상에 공개한 이후로 우리는 믿을 수 없는 사람들을 데려가는 것을 보았습니다. 어떤 사람들은 챗봇이 깨달은 의제를 가지고 있다고 주장했습니다. 미국 상원의원 Chris Murphy는 ChatGPT가 자체적으로 고급 화학을 “가르쳤다”고 트윗했습니다. 노련한 기술 저널리스트조차도 작동 방식에 대한 기사를 작성했습니다. 챗봇은 그들과 사랑에 빠졌습니다. 원시인이 처음 불을 보았을 때 반응했을 가능성이 있는 것과 같은 방식으로 세계가 AI에 반응하는 것처럼 보입니다. 완전한 혼란과 일관되지 않은 옹알이입니다.

가장 최근의 예 중 하나는 60분CBS 일요일에 방영된 인공 지능의 혁신에 초점을 맞춘 새로운 에피소드로 자신의 목소리를 링에 던졌습니다. 이 에피소드에는 Google의 CEO인 Sundar Pichai와 같은 인터뷰가 포함되어 있으며 의심스러운 콘텐츠가 포함되어 있습니다. 회사의 대규모 언어 모델(LLM) 중 하나에 대한 주장.

이 세그먼트는 모델 개발자가 반드시 의도하지 않은 AI 시스템의 예기치 않은 부작용을 설명하는 응급 행동에 관한 것입니다. 우리는 이미 다른 최근 AI 프로젝트에서 새로운 행동이 나타나는 것을 보았습니다. 예를 들어, 연구원들은 지난 주에 온라인에 발표된 연구에서 ChatGPT를 사용하여 목표와 배경을 가진 디지털 페르소나를 만들었습니다. 그들은 시스템이 한 캐릭터에서 다른 캐릭터로 새로운 정보를 공유하고 심지어 서로 관계를 형성하는 것과 같은 다양한 창발적 행동을 수행한다는 점에 주목합니다. 이는 작성자가 시스템에 대해 처음에 계획하지 않은 것입니다.

신흥 행동은 분명히 뉴스 프로그램에서 논의할 가치가 있는 주제입니다. ~가 어디에 있죠 60분 그러나 비디오는 Google의 챗봇이 실제로 그 언어로 질문을 받은 후 이전에 알지 못했던 언어를 스스로 가르칠 수 있었다는 주장에 대해 알게 되면 전환됩니다. “예를 들어, 한 Google AI 프로그램은 방글라데시 언어로 그렇게 하라는 지시를 받은 후 자체적으로 적응했는데, 이는 알도록 훈련되지 않았습니다.”라고 CBS News 기자 Scott Pelley는 비디오에서 말했습니다.

AI 전문가들은 이것이 본격적인 학사 학위라고 말합니다. 로봇은 “알도록 훈련한 적이 없는” 외국어를 배울 수 없을 뿐만 아니라 스스로에게 새로운 기술을 가르친 적도 없습니다. 전체 클립은 AI 연구원과 전문가들이 Twitter에서 뉴스 쇼의 오해의 소지가 있는 프레이밍을 비판하도록 자극했습니다.

산타페 연구소(Santa Fe Institute)의 AI 연구원이자 교수인 멜라니 미첼(Melanie Mitchell)은 “언론인들이 AI를 다루지 *않는* 방법에 대한 사례 연구로 Google Bard의 전체 @60Minute 세그먼트를 검토하기를 바랍니다. 그는 트윗에 썼다.

“기술에 대해 마술처럼 생각하지 마세요! 훈련 데이터가 벵골어로 오염되었거나 아쌈어, 오리야어 또는 힌디어와 같이 벵골어와 겹치는 언어로 훈련되지 않는 한 #AI가 벵골어로 응답하는 것은 불가능합니다.” 알렉스 오. 매사추세츠 공과대학 연구원, 다른 게시물에 추가됨.

주목할 가치가 있습니다 60분 클립은 그들이 사용한 AI를 정확히 말하지 않았습니다. CBS 대변인은 The Daily Beast에 해당 세그먼트는 Bard에 대한 토론이 아니라 인공 지능에 대한 별도의 프로그램이라고 말했습니다. 하지만 이 부분이 이들 전문가들에게 그토록 답답한 이유는 제너레이티브 AI가 실제로 할 수 있는 일에 대한 현실을 무시하고 가지고 놀기 때문이다. 처음부터 언어에 접근할 수 없다면 스스로에게 언어를 “가르칠” 수 없습니다. 이것은 북경어를 스스로 가르치려는 것과 같지만 누군가 북경어를 한 번 물어본 후에야 들었습니다.

결국 언어는 이해할 수 없을 정도로 복잡합니다. 이해하고 의사소통하기 위해 엄청난 수준의 맥락이 필요한 뉘앙스와 규칙이 있습니다. 가장 진보된 LLM도 몇 가지 프롬프트로 모든 것을 처리하고 배울 수 있는 방법이 없습니다.

게다가 AI 소프트웨어는 이미 방글라데시의 지배 언어인 벵골어를 알도록 훈련되었을 수도 있다. AT HuggingFace의 Startup Lab 연구원이자 이전 Google에서 근무한 Margaret Mitchell(관계 없음)은 다음과 같이 설명했습니다. 트윗 주제 이유를 주장하라 60분 실수였을 가능성이 높습니다.

Mitchell은 Google이 최근 공개적으로 사용할 수 있는 챗봇인 Bard에 PaLM이라는 모델의 초기 반복 작업이 포함되어 있다고 언급했습니다. 2022년 데모에서 Google은 PaLM이 벵골어로 통신하고 프롬프트에 응답할 수 있음을 보여주었습니다. 그만큼 PaLM 뒤의 종이 데이터시트에서 모델이 실제로 벵골어 알파벳의 약 1억 9400만 ​​기호로 언어에 대해 훈련되었음을 밝혔습니다.

신비한 별도의 AI 프로그램이 무엇인지는 모르지만 PaLM의 동일한 작업에 의존했을 가능성이 높습니다. 이는 데이터 세트에서 벵골어의 존재를 설명합니다.

Google의 CEO인 Pichai가 인터뷰에 참석하고 이러한 주장이 반대 없이 계속되도록 허용한 이유는 분명하지 않습니다. (구글은 논평 요청에 응답하지 않았다.) 방송 이후 전문가들이 영상에 담긴 오해의 소지가 있는 허위 주장을 지적했음에도 그는 침묵을 지켰다. 트위터에서 마가렛 미첼 제안 그 이유는 Google 리더가 제품의 작동 방식을 알지 못하고 생성 AI에 대한 현재의 과대 광고를 해결하기 위해 잘못된 메시지가 확산되도록 허용하기 때문일 수 있습니다.

“예상 컨데 [Google executives] 어떻게 작동하는지 문자 그대로 이해가 안 돼요, Mitchell 짹짹. “내가 위에서 쓴 내용은 그들에게 뉴스일 가능성이 높습니다. 그리고 그들은 이해하지 않으려는 동기가 부여됩니다(이 데이터 시트에 눈을 떼지 마십시오!!).”

비디오의 후반부는 Pichai와 Billy가 “매우 인간적으로 들리는” Bard가 만든 단편 소설에 대해 논의하면서 문제가 있는 것으로 볼 수 있으며 두 사람은 다소 흔들립니다.

사실 이러한 제품은 마법이 아닙니다. 그들은 인간이 아니기 때문에 “인간”이 될 수 없습니다. 그것들은 당신의 휴대폰에 있는 것과 같은 텍스트 예측기로서, 구문의 일련의 단어 다음에 가장 가능성이 높은 단어와 구문을 제시하도록 훈련되었습니다. 그들이 존재한다고 말하는 것은 그들에게 믿을 수 없을 정도로 위험한 수준의 힘을 줄 수 있습니다.

결국 사용자는 이러한 생성 AI 시스템을 사용하여 잘못된 정보를 퍼뜨리는 것과 같은 일을 할 수 있습니다. 우리는 이미 이것이 사람들의 모습과 심지어 그들의 목소리를 조작하는 것을 보았습니다.

챗봇 자체도 편향된 결과를 생성하면 해를 끼칠 수 있습니다. ChatGPT 및 Bard와 같은 사례에서 이미 본 것입니다. 환각을 일으키고 결과를 조작하는 이러한 챗봇의 성향을 알면 의심하지 않는 사용자에게 잘못된 정보를 퍼뜨릴 수 있습니다.

연구에서도 이를 입증합니다. 최근 연구 에 게시 됨 과학 보고서 그는 윤리적 질문에 대한 인간의 반응이 ChatGPT의 주장에 쉽게 영향을 받을 수 있으며 심지어 사용자가 봇에 의해 얼마나 많은 영향을 받는지 크게 과소평가한다는 사실을 발견했습니다.

오해의 소지가 있는 주장 60분 이것은 우리가 가장 필요로 하는 시기에 디지털 리터러시가 더 많이 필요하다는 징후일 뿐입니다. 많은 AI 전문가들은 지금이 그 어느 때보다 AI가 할 수 있는 것과 할 수 없는 것을 사람들이 알아야 할 때라고 말합니다. 로봇 공학에 대한 이러한 기본 사실은 더 많은 대중에게 효과적으로 전달되어야 합니다.

이것은 가장 큰 플랫폼과 가장 큰 목소리를 가진 사람들(예: 미디어, 정치인 및 Big Tech CEO)이 더 안전하고 교육받은 AI 미래를 보장하는 데 가장 큰 책임을 진다는 것을 의미합니다. 그렇지 않으면 앞서 언급한 원시인처럼 불의 마법을 가지고 놀다가 그 과정에서 화상을 입을 수 있습니다.

편집자 주: 이 이야기의 이전 버전에서는 60 Minutes 세그먼트에서 논의된 AI가 별도의 Google AI일 때 Bard라고 말했습니다.