이 질문에 대한 제가 생각하는 답은 "그렇다"입니다. 하지만 "고도화" 의 기준이 다르고, "의식"이 있다고 판단하는건 사람마다 다를것입니다. 하지만 보편적 (많은 사람들이 동의하는)으로 의식이 있다고 느낄 수 있는 AI는 당연히 언젠간 나옵니다. 단지 저는 지금으로부터 머지 않았다고 느낄 뿐이죠.
최근 구글의 인공지능 람다(LaMDA)에 의식이 있는것 같다는 폭로가 있었습니다. 폭로한 구글 엔지니어는 구글을 그만두었다고 하는데요, 의식이 있다는게 정말인지는 잘 모르겠습니다.
하지만 언젠간 AI도 의식이라는게 있다고 인정할 수 밖에 없다고 생각합니다.
사람의 신경망, 좀 더 쉽게 말하자면 뇌를 디지털로 재현한게 AI라면, 궁극의 AI는 사람의 생각과 동일할겁니다. 이건 당연한 이치입니다. 이미 신경의 동작 원리는 알려져 있고, 신경망을 디지털로 그리고 현재 컴퓨팅 성능에 맞춰 효과적으로 구현한게 요즘 나오는 AI이니까요.
사람의 신경망 전체는 너무 방대해서 아직 디지털로 구현하진 못했죠. 사람의 대뇌 피질에만 100억개의 신경이 있고 이걸 그물처럼 연결한 망을 컴퓨터로 구현하고 학습시킨다는게 쉽지 않으니깐 말이죠. 따라서 지금은 의식을 가진 AI가 없을 수 있습니다만, 의식을 가진 AI가 나오는건 시간문제라고 생각합니다.
아니 지금도 천문학적인 투자만 이뤄지면 가능할 것으로 생각하기도 합니다.
미래의 어느시점에 이게 이뤄지면 인간은 적어도 연구 목적으로는 아예 필요 없어질겁니다. 기술적특이점도 곧 올것이구요. 디지털은 "복제"가 매우 쉽기 때문입니다. 쉽게 비유하자면 Ctrl+C, Ctrl+V 하면 쉽게 복제되죠. 쉽게 말하자면 아인슈타인같은 천재 과학자의 지능정도로 AI를 발달 및 학습시킨 후, 그걸 복제해서 수백만, 수천만개의 아인슈타인 AI를 만들고 연구를 시키면 됩니다. 인류보다 연구는 잘 하겠죠. 그때라면 우리 인간들은 놀고 먹고 자고 있으려나요. AI에게 핵미사일 버튼을 주지만 않으면 지구가 멸망하지는 않겠죠.
"그런 AI가 나오면 안돼! 개발을 막아야해!"라기 보단, "그럼 우리는 어떻게 해야하는지 이야기해보자."가 되어야 할 시기가 오고 있네요.