▲

많은 사람이 로봇이 인류에 맞서는 영화를 본 적이 있을 것이다. 하지만 진짜 위험이 터미네이터와 같은 종말이 아니라 훨씬 더 미묘한 것이라면 어떨까? AI가 고통, 기쁨, 심지어 두려움까지 느끼기 시작하면 어떨까? 점점 더 많은 과학자와 철학자들이 AI 의식의 가능성을 진지하게 고려하고 있다. 이러한 시스템이 더욱 정교해짐에 따라 심오한 윤리적 질문이 등장한다. AI는 권리를 가져야 할까? 그렇다면 이것이 인류의 미래에 어떤 의미가 있을까?

이 자극적인 주제에 대해 전문가들은 어떻게 말하고 있을까? 사진을 통해 확인해 보도록 하자.

▲

우리는 종종 AI가 인류를 압도하는 것에 대해 걱정하지만, 실제 위험이 그 반대라면 어떻게 될까? 언어 모델에 숨겨진 욕망이 있고 우리가 로봇을 계속 착취하는 동안 그들이 봉사에 의문을 품는다면 어떻게 될까?

▲

이 주제는 수많은 책, 영화, TV 프로그램에 스며들었다. 이들 중 상당수는 로봇이 의식을 가지고 있을 뿐만 아니라 인간 착취에 맞서 반란을 일으키기로 결심하면 어떤 일이 일어날지 탐구한다. TV 프로그램 '웨스트월드'에서 로봇은 노예와 학대를 인식하게 되고, 이는 인간 창작자에 대한 반란으로 이어진다.

▲

2014년 개봉한 영화 '엑스 마키나'에서는 첨단 휴머노이드 AI의 인간적 특성을 테스트하는 실험이 위험한 국면을 맞이한다. 감정적 조작과 놀라운 폭력이 가능한 이 로봇은 인간 제작자를 제치고 통제권을 장악하고 결국 포로에서 탈출한다.

▲

한때 공상 과학 소설에만 국한되어 있던 것이 이제 현실 세계에서 가능한 것이 되었다. 과학자와 철학자들은 의식 있는 인공지능의 발생에 대비하고 그로 인한 도덕적 딜레마를 해결해야 한다고 주장한다. 여기에는 로봇이 권리를 가져야 하는지 여부도 포함된다.

▲

뉴욕대학교의 철학자 제프 세보는 이 문제를 해결하지 못하면 "세상에 훨씬 더 많은 고통과 좌절"을 초래할 수 있다고 경고했다. 그는 AI 시스템을 확장하기 전에 신중한 고려를 촉구하고 있다.

▲

AI 의식에 대한 논쟁에서 한 가지 도전 과제는 인간의 지능에서도 의식 자체에 대해 다르게 이해하고 있다는 것이다. 동물이 의식을 가지고 있는지 여부를 확실히 말할 수 없으며, 의식에 대한 정확한 정의에 대해서도 합의하지 못했다.

▲

엘레오스 AI의 전무이사 로버트 롱은 의식에 대한 불확실성이 AI 의식의 가능성을 탐구하는 데 방해가 되어서는 안 된다고 주장한다. 대신 신중함과 겸손함을 장려해야 한다. 그는 기계가 스스로 인식할 수 없다는 가정에 대해 경고한다.

▲

롱은 진화가 의식 있는 존재를 만드는 것을 목표로 한 것이 아니라 생존과 번식에 초점을 맞췄다고 말한다. 의식은 세상을 탐색하고 이해하는 과정에서 파생된 부산물로 등장했다. 그렇다면 세상에 대해 학습하는 임무를 맡은 인공지능 로봇은 왜 비슷한 진화 경로를 따라갈 수 없었을까?

▲

의식 과학 연구 협회에 대한 설문 조사에 따르면, 회원의 67%가 기계가 확실히 또는 아마도 의식을 발전시킬 수 있다고 믿는 것으로 나타났다.

▲

이와는 별도로 철학자들을 대상으로 한 설문조사에 따르면 39%가 미래의 인공지능 시스템이 의식을 가질 가능성을 "수용하거나 그쪽으로 의견이 기울고 있는" 것으로 나타났으며, 이는 파리가 의식을 가지고 있다고 믿는 사람들(35%)보다 높은 비율이다.

▲

또한 2023년에는 저명한 연구자들이 수학의식연구협회의 공개 서한에 서명하며 "AI 시스템이 감정과 인간 수준의 의식을 가지고 있다고 상상하는 것은 더 이상 공상과학이 아니다"라고 선언했다.

▲

과학이 의식에 대한 질문에 확실하게 답할 수는 없지만, '글로벌 워크스페이스' 이론과 같은 이론은 통찰력을 제공한다. 이 이론은 인간이 방대한 양의 정보를 처리하며, 그 중 많은 부분이 무의식적으로 처리된다는 것을 시사한다.

▲

이 이론은 의식이 감각 정보의 통합에서 비롯된다고 제안한다. 이 중앙 처리 시스템은 중요한 정보를 선택하여 신경망을 통해 브로드캐스트하므로 일상적인 기능을 자동화하면서 필수 작업에 집중할 수 있다.

▲

AI 모델이나 챗봇과 마찬가지로 우리의 뇌는 정보를 통합하여 출력 경험을 생성한다. AI 시스템이 복잡해짐에 따라 전문가들은 이러한 시스템이 의식과 관련된 특징을 나타낼 수 있다고 생각한다.

▲

연구자들은 AI의 잠재적 의식에 대해 점점 더 우려하고 있다. 선도적인 철학자들과 AI 연구자들은 최근 논문 'AI 복지를 진지하게 받아들이기'에서 AI 기업들이 의식 있는 AI 개발의 윤리적 의미를 고려할 것을 촉구하고 있다.

▲

이 연구의 저자들은 AI가 인지적 진화, 의식 또는 고급 주체성을 통해 도덕적 지위를 달성할 수 있다고 제안한다. 이 논문은 견고한 주체성을 계획, 추론, 행동 선택 능력을 포괄하는 것으로 정의한다.

▲

런던 정경대학의 공동 저자인 조나단 버치는 AI 감각을 둘러싼 회의론을 인정한다. 한때 자신을 의심했지만 최근 증거를 통해 그 가능성을 진지하게 받아들이고 있다.

▲

그는 AI 시스템을 조사 우선순위로 취급하고, 감각에 대한 명확한 경고 신호를 확립할 것을 옹호한다.

▲

기계가 그럴듯하게 의식적이라는 합의가 나오면 상황은 훨씬 더 복잡해진다. AI와 마찬가지로 동물의 복지도 고려해야 하는데, 세보는 이 개념에 대해 어려움을 겪고 있다고 생각한다.

▲

연구자들은 또한 AI 모델의 인간과 유사한 특성을 과대평가하거나 과소평가할 위험에 대해서도 논의한다. 연구자들은 눈을 가진 개체, 볼 수 있는 개체 또는 뚜렷한 움직임 궤적과 자기 주도적 행동을 보이는 개체에게 더 큰 주체성을 부여하는 경향이 있다고 지적한다.

▲

이 논문은 '귀엽다'와 같은 특징이 정신 상태와 도덕적 특성에 대한 우리의 인식에 영향을 미칠 수 있다고 강조한다. 전문가들은 많은 로봇과 챗봇이 의식적이고 카리스마 있게 보이도록 설계되었으며, 미래에는 신체, 생명체 같은 움직임, 그리고 우발적인 상호작용을 할 수 있을 것이라고 강조한다.

▲

전문가들은 이러한 특성들조차도 기계나 동물에 대한 인간적인 대우를 보장하지 않을 수 있다고 경고한다.

▲

버치는 농장에서 여전히 도살되는 동물의 수가 많다는 점을 예로 들며, 비인간 동물의 의식과 도덕적 중요성에 대한 역사적 과소평가로 인해 이 산업이 성장했다고 주장한다. 그는 AI로 인해 이러한 실수를 반복할 위험이 있다고 경고한다.

▲

하지만 욕구가 상대적으로 명확한 동물과 달리 AI에는 다양한 지능의 욕구를 이해하는 것이라는 또 다른 도전 과제가 있다. 버치는 "인간과 동물의 관심사와 욕구를 AI에게 투영하는 것은 실수다."라고 경고한다.

▲

그는 AI의 웰빙을 처음부터 이해하기 위한 새로운 프레임워크를 구축할 것을 제안한다. 또한 버치와 그의 동료들은 AI 지각의 잠재력을 심각한 문제로 인정하는 적절한 조치를 제안한다.

▲

이러한 우려는 너무 현실적이어서 특정 일자리가 창출되고 있다. OpenAI(ChatGPT의 창립자) 출신들이 2021년에 설립한 AI 공익 스타트업인 아트로닉은 최근 인공지능 시스템 복지에 초점을 맞춘 첫 정규직 채용을 발표했다.

▲

최근 발표된 AI 복지에 대한 논문의 공동 저자 중 한 명인 카일 피쉬가 전임 AI 복지 전문가로 합류했다. 그의 역할은 '모델 복지'를 조사하고 기업에 적절한 조치를 조언하는 것이다.