소식

May 03, 2023

Temple Grandin: AI와 ChatGPT는 훌륭하지만 여전히 전문가가 필요합니다.

나는 1968년 나에게 영향을 준 영화를 보고 처음으로 AI를 알게 되었다.

나는 1968년 스탠리 큐브릭 감독의 영화 2001: 스페이스 오디세이(2001: A Space Odyssey)를 보고 나에게 큰 영향을 미쳤던 1968년에 처음으로 AI를 알게 되었습니다. 나는 21세였습니다. 나는 SF 영화를 좋아했지만 이 영화는 특별한 의미를 지녔습니다.

자폐증이 있는 사람으로서 나는 감정적이고 감정에 기반한 것보다 더 이성적이고 사실에 기반한 사람이며, 내 말은 단조롭거나 변조되지 않은 것으로 묘사되었습니다. 고등학교 때 몇몇 아이들은 나를 "로봇"이나 "테이프 레코더"라고 불렀습니다. 이것이 제가 꾸준한 목소리와 초논리적 능력으로 우주비행사들의 임무를 도와주는(그가 그렇지 않을 때까지) 감각이 있는 컴퓨터인 HAL과 관련이 있는 이유 중 하나입니다. 그러나 나는 IBM 컴퓨터 Deep Blue가 세계 체스 챔피언인 Garry Kasparov를이긴 1997년까지 AI에 그다지 많은 관심을 기울이지 않았습니다. 그것은 게임 체인저였습니다. 그러다가 2003년에 두 대의 화성 탐사선이 인간의 통제 없이 스스로 화성 표면을 탐색하며 하루를 보내게 되었을 때 저는 깜짝 놀랐습니다.

그 이후로 AI는 Siri, 자율 주행 자동차, 소셜 미디어의 팝업 광고, 개인 투자 알고리즘 등을 지원하면서 우리 일상 생활에 자리 잡았습니다. 가장 최근에는 기술 회사 OpenAI가 ChatGPT를 도입하여 놀라운 기술에 무료로 액세스할 수 있게 했습니다. 이미 ChatGPT는 변호사 시험에 합격했습니다.

ChatGPT가 내 업무 분야에서 어떤 전문 지식을 소환할 수 있는지 알고 싶었습니다. 나는 가축을 다루는 행동 원칙에 대한 짧은 문단을 써달라고 요청했습니다. 그것은 내 논문 중 하나를 정확하게 요약하여 수학적 분석이 거기에 입력된 데이터만큼 좋다는 것을 보여주었습니다. 그리고는 제가 평소에 사용하지 않는 표현을 사용해서 단순히 제 작품만 찾아볼 수 없도록, 좋은 소를 다루는 방법에 대해 짧은 글을 써달라고 부탁했습니다. 관련된 행동 원칙에 대해 정확하고 간결한 단락을 작성했습니다. 두 단락 모두에 대해 실제적이고 관련성이 있는 참고 자료를 제공했습니다. 그러나 어떤 경우에는 시설의 매우 잘못된 설계에 대한 오래된 다이어그램이 포함되어 있었습니다. 업계에 새로 온 사람이 심각한 결함이 있다는 것을 알지 못하는 설계였습니다. AI를 사용하는 모든 분야에는 여전히 전문가가 필요합니다.

지금까지 AI에 대한 대부분의 우려는 기계가 사람들의 일자리를 빼앗을지, AI가 인류를 불필요하게 만들 것인지에 집중되었습니다. 나는 이런 걱정이 잘못된 것이라고 믿는다. 모든 기술 혁명은 일부 일자리를 없애고 다른 일자리를 창출합니다. 내 생각에 진짜 위험은 다른 곳에 있다.

나는 자폐증일 뿐만 아니라 고도로 시각적인 사고를 하는 사람이기 때문에 이미지에서 의미가 가장 먼저 떠오릅니다. 내 마음은 일이 어떻게 일어나는지, 특히 어떻게 잘못될 수 있는지 보여주는 비디오와 동등한 시뮬레이터와 같습니다. 이는 AI의 급진적인 혁신을 이끈 고도로 추상적인 추론과 정반대입니다. 하지만 이러한 진보가 너무 큰 피해를 입히지 않도록 특별히 준비된 사람은 저와 같은 시각적 사상가입니다.

대부분의 사람들에게 AI는 마법과 유사한 추상화입니다. 그건 위험해요. 도로나 가공 공장과 같은 물리적 기반시설의 취약성과 실제 결과에 대해 생각하는 것이 더 나을 것입니다. AI는 세상을 운영하는 데 도움이 되지만 크고 강력한 유틸리티도 문제를 일으킬 수 있습니다. 저는 50년 동안 업계에서 일하면서 인간의 실수로 인한 연쇄 반응과 물, 전력 시스템과 같은 필수 인프라의 취약성을 직접 목격했습니다. 예를 들어, 해커가 장비를 제어하는 ​​컴퓨터를 제어할 경우 이러한 시스템은 더욱 큰 위협을 받게 됩니다. 이제 AI 프로그램이 컴퓨터 코드를 작성할 수 있게 되면서 더욱 실질적인 위험이 발생합니다. 물과 전력망을 보호하는 가장 좋은 방법은 취약한 장비가 너무 뜨거워지거나, 너무 빨리 회전하거나, 과도한 압력이 쌓이면 차단하는 구식 전기 기계 제어 장치를 사용하는 것입니다.

헤더 탈 머피

나는 할리우드 배우들이 겁에 질린 미래를 보았다

자세히 알아보기

나는 ChatGPT를 가지고 재미있게 놀았습니다. 내 분야에 대해 물어보는 것 외에도 보라색 날아다니는 얼룩말에 대한 생각도 찾아보았습니다. (이러한 생물은 허구이며 구름과 무지개를 먹고 사는 것으로 확인되었습니다.) 하지만 ChatGPT 창시자인 OpenAI의 대표인 Sam Altman이 최근 상원에서 다음과 같이 말했을 때 표현한 경고도 공유합니다. 아주 잘못됐어." Altman은 ChatGPT가 완전히 설득력 있는 상원의원의 연설을 어떻게 만들어낼 수 있는지 의원들에게 보여주면서 AI가 자가 복제하거나 야생으로 탈출하는 것을 차단해야 한다고 말했습니다. 자신을 복제한 AI 프로그램은 데이터 센터에 침입하여 인간 운영자가 개입할 만큼 충분히 경계하지 않으면 상상할 수 없는 피해를 입힐 수 있습니다. 특히 AI를 고유한 방식으로 사용할 수 있는 도구가 널리 사용 가능하므로 AI의 혜택을 누리려면 AI를 중요한 인프라로 보호해야 할 뿐만 아니라 일반 시민에게 기본적인 AI 자기 방어 방법을 교육해야 합니다.