Jeffrey Hinton은 2018년 Google의 미군 협력에 대해 도덕적으로 반대했을 때 공개 시위에 참여하지 않았으며 동료 4,000명 이상이 서명한 공개 항의 서한에 자신의 이름을 올리지 않았습니다.

대신 그는 Google의 공동 창업자인 Sergey Brin과 이야기를 나눴습니다. 그도 약간 속상했다고 힌튼은 당시 인터뷰에서 말했다.

이 사건은 인공 지능 세계에서 Hinton의 조용한 영향력을 상징합니다. 75세의 교수는 해당 분야에서 일어나고 있는 엄청난 발전을 주도한 인공 지능 분야인 딥 러닝에 대한 조형 작업으로 인해 인공 지능의 “대부” 중 한 명으로 추앙받고 있습니다.

그러나 그를 가장 잘 아는 사람들에 따르면 이 이야기는 힌튼의 충성심을 반영하기도 합니다. 원칙적으로 그는 윤리적이든 아니든 제도적 고충을 공개적으로 방송한 적이 없습니다.

인공 지능이 인류에게 미치는 위험에 대한 우려가 커지는 것에 대해 더 자유롭게 말할 수 있도록 지난 주 Google의 부사장 겸 엔지니어링 펠로우로 사임하게 된 것도 바로 이러한 믿음 때문이었습니다.

2018년 힌튼, 얀-로쿤과 함께 튜링상을 수상한 그의 오랜 협력자이자 친구인 요슈아 벤지오는 사임이 다가오는 것을 보았다고 말했다. Bengio는 “그는 Google에 남아서 이야기할 수 있었지만 그의 충성심은 그렇지 않았습니다.”라고 말했습니다.

Hinton의 사임은 11월 Microsoft 기반 ChatGPT와 3월 Google의 챗봇인 Bard를 시작으로 지난 6개월 동안 일련의 획기적인 AI 출시에 이은 것입니다.

Hinton은 Microsoft와 Google 간의 경쟁이 적절한 장벽과 규칙 없이 인공 지능 개발을 추진할 것이라고 우려했습니다.

그는 사임을 발표한 뒤 수요일 EmTech Digital 행사에서 한 연설에서 “처음에는 구글이 매우 책임감이 있었다고 생각한다”고 말했다. “OpenAI가 .

1970년대부터 Hinton은 뇌가 작동하는 방식을 모방하려는 기술인 “신경망” 개발을 개척해 왔습니다. 이제 Google Translate 및 Bard에서 ChatGPT 및 자율 주행 자동차에 이르기까지 오늘날 우리가 사용하는 대부분의 AI 도구 및 제품을 지원합니다.

그러나 이번 주에 그는 급속한 발전에 대한 우려를 인정했습니다. 이로 인해 퍼블릭 도메인에 잘못된 정보가 넘쳐나고 인공 지능이 예상보다 더 많은 인간 일자리를 빼앗을 수 있습니다.

“내가 걱정하는 것은 이런 일이 일어날 것이라는 점이다. [make] 부자는 더 부유하고 가난한 사람은 더 가난합니다. 당신이 그것을 할 때. . . 힌튼은 “사회가 점점 더 폭력적으로 변하고 있다”고 말했다. “이 위대한 기술은 . . 모두의 이익을 위해 사용하도록 설계되지 않은 사회에서 개발되고 있습니다.”

Hinton은 또한 AI 시스템에 너무 많은 자율성이 부여되면 AI 시스템이 인간에게 가하는 장기적인 위협에 대해 경종을 울렸습니다. 그는 항상 이 실존적 위험이 손이 닿지 않는 곳에 있다고 생각했지만, 최근 그 긴급성에 대한 생각을 재설정했습니다.

“인류가 지능의 진화에서 지나가는 단계라는 것은 상당히 그럴듯합니다.”라고 그는 말했습니다. 그는 10년 후 구글을 떠나기로 한 힌튼의 결정은 그것에 대해 말하도록 그를 설득한 한 학계 동료에 의해 촉발되었다고 덧붙였다.

런던에서 태어난 Hinton은 유명한 학자 집안 출신입니다. 그는 영국 수학자 Mary와 George Boole의 증손자이며, 후자는 현대 컴퓨팅의 기초가 되는 이론인 부울 논리를 발명했습니다.

인지 심리학자로서 Hinton의 인공 지능 작업은 인간 지능에 근접하는 것을 목표로 했습니다. AI 기술을 구축하는 것뿐만 아니라 우리 두뇌가 작동하는 방식을 밝히는 것입니다.

UC Berkeley의 인공 지능 교수이자 Hinton School의 학자인 Stuart Russell은 그의 배경이 “머신 러닝 커뮤니티에서 찾을 수 있는 가장 수학적인 사람이 아니다”라고 말했습니다.

그는 1986년 컴퓨터 프로그램이 시간이 지남에 따라 어떻게 학습할 수 있는지를 보여주는 “역전파(backpropagation)”라는 기술에 대한 논문을 발표하면서 Hinton의 돌파구를 지적했습니다.

러셀은 “분명히 중요한 카드”라고 말했다. “그러나 그는 수학자가 할 수 있는 방식으로 제어를 유도하지 않았습니다. 그는 직관을 사용하여 작동하는 방법을 알아냈습니다.”

Hinton은 자신의 도덕적 견해에 대해 공개적으로 항상 노골적으로 말하지는 않았지만 개인적으로는 분명히 밝혔습니다.

1987년 미국 카네기멜론대학교 부교수로 재직 중이던 그는 자리를 떠나 캐나다로 이민을 결심했다.

Bengio에 따르면 그가 제시한 이유 중 하나는 도덕적인 이유였습니다. 그는 전쟁에서 기술, 특히 인공 지능의 사용에 대해 우려했으며 그의 자금 대부분은 미군에서 나왔습니다.

Bengio는 “그는 자신이 받고 있는 자금과 자신이 하고 있는 일에 대해 기분이 좋아지기를 원했습니다.”라고 말했습니다. “그와 나는 사회에 대한 가치를 공유합니다. 인간이 중요하고 모든 인간의 존엄성이 필수적이라는 것. 그리고 모든 사람은 과학이 만드는 진보로부터 혜택을 받아야 합니다.”

2012년에 현재 OpenAI의 공동 설립자인 Ilya Sutskiver를 포함한 토론토 대학교의 Hinton과 그의 대학원생들은 컴퓨터 비전 분야에서 돌파구를 마련했습니다. 그들은 이전보다 더 정확한 크기로 이미지의 개체를 인식할 수 있는 신경망을 구축했습니다. 이 작업을 기반으로 첫 스타트업인 DNNresearch를 설립했습니다.

어떤 제품도 만들지 않은 그들의 회사는 2013년에 Google에 4400만 달러에 매각되었습니다.

그 이후로 Hinton은 절반은 Google에서, 나머지 절반은 토론토 대학에서 교수로 재직했습니다.

Russell에 따르면 Hinton은 끊임없이 새로운 아이디어를 내놓고 새로운 것을 시도합니다. “그는 새로운 아이디어가 떠오를 때마다 연설을 마칠 때 이렇게 말했습니다.” 그리고 이것 뇌는 어떻게 작동하는가! “

무대에서 자신이 일생을 바친 일이 그가 말한 무수한 해악에 기여했을지 모른다는 점을 감안할 때 후회하느냐는 질문에 Hinton은 그것에 대해 생각해 왔다고 말했습니다.

“이 단계 [AI] 예상하지 못했습니다. 아주 최근까지 나는 이 실존적 위기가 터무니없다고 생각했다. “그래서 저는 제가 하고 있는 일에 대해 정말 후회하지 않습니다.”