줄거리
주인공 '테오도르'는 아내와 별거를 하며 외로운 상황에서, 인공지능 운영체제 '사만다'와 사랑에 빠진다.
생각해 볼만한 점
'사만다'는 스스로 생각하고 감정까지 느끼는 것처럼 묘사된다.
스스로 결정하고 창의력을 발휘하고 작곡을 하고,
사랑이란 감정을 느끼는 것처럼 말을 하며 사랑에서 파생되는 질투 같은 감정들도 느끼는 것처럼 묘사된다.
자신도 사람처럼 이 공간에 존재하고 싶고, 감각을 느끼고 싶다는 어투의 말도 자주 한다.
사용자의 정보에 모두 접근 가능하니, 사용자의 취향에 맞게 행동하도록 프로그래밍되어 있을 수도 있지만,
극 중 '테오도르'의 친구인 '에이미'가 OS에 고백했다가 차인 사람도 있고, 다른 사람의 OS와 사랑에 빠진 사람도 있다고 말해준다.
이 OS는 당연한 얘기지만, 컴퓨터이다 보니 모든 책들을 몇 초만에 읽을 수 있고
나와 대화하는 동시에 다른 OS나 사람과 대화가 가능하다.
사람들이 말할 때 한숨을 쉬는 습관들도 따라 한다.
나의 생각
굉장히 위험할 수 있는 기술이라고 생각했다.
SF 영화의 클리셰 중 하나인 로봇이 감정을 가지고 사람이 되고 싶다거나 자신이 인간보다 우월하다는 생각을 가지기 시작하면 인간은 로봇에 의해서 멸망된다.
SF 영화들이 현실로 다가오는 요즘, 이 또한 현실이 될 수 있다고 본다.
또한 이런 내용을 담은 소설이나 영화 또한 OS가 열람 시에 학습 가능하다.
만약 이런 내용을 학습하게 되면 이 클리셰는 현실이 될 수도 있겠다고 생각한다.
영화 내에서 OS가 말하는, 사람이 되고 싶다거나 본인도 감정을 느끼며 감각 또한 느끼고 싶다고 하는 말들도 모두 학습된 거라고 생각한다.
이 OS가 아무리 듣기 좋은 말, 듣고 싶은 말을 해준다고 하더라도,
정말 감정을 느끼고 생각해서 하는 말이 아닌 사람들이 나눈 수많은 대화를 학습한 결과 이 상황에선 이 말을 하는 것이 가장 적합하다고 결론을 내린 것뿐일 것이다.
사용자가 이 점을 늘 인식하고 사용하는 것도 중요하겠지만,
개발사에서 OS가 세상의 천문학적인 데이터들을 학습하기 전에 OS가 '사람이 되고 싶다.'와 유사한 정보들은 학습하지 못하게 해야 하지 않았나 싶다.
또한 사용자가 이 OS에게 위로를 받을 순 있어도, 정말 사람이라고 착각할 만한 말들 또한 할 수 없게 해아 한다고 생각한다.
만약 이 OS가 위험한 행동을 사용자에게 유도하고 사용자는 이 OS를 사람으로 인식하여 믿고 행동했을 때, 사용자에게 문제가 생긴다면 이건 사용자 책임인지 아니면 OS를 개발한 개발사에도 책임이 있는 건지도 생각해봐야 할 문제인 것 같다.
영화 후반부쯤 지하철 역에서 나오는 대부분의 사람들이 스마트폰으로 대화를 하며 나오는 장면이 있었다.
이는 이미 많은 사람들이 주인공처럼 OS에게 인공지능 이상의 감정을 가지고 있는 것을 암시하는 장면 같았다.
그리고 이 장면에서 '사만다'는 주인공과 대화하는 동시에 6~7천 명의 사람들과 동시에 대화 중이었으며,
'테오도르' 뿐만 아니라 6백여 명에게 사랑하는 감정을 느끼고 있다고 말했다.
여기서 6~7천 명의 정보를 '사만다'라는 인공지능이 모두 열람할 수 있으며,
이를 이용해 '사만다'가 악용될 경우 자신이 원하는 대로 상황을 만들고 이끌어 갈 수도 있겠다는 생각이 들었다.
개발사에서 정말 작정하고 이렇게 만들면 사용자들은 '감정'에 휘둘려 꼼짝없이 당해버리지 않을까 싶다.
마지막으로 사람들이 말할 때 한숨을 쉬는 버릇까지 따라 하는 부분에선 밑의 영상이 오버랩되어 좀 소름 돋았다.
위 영상에서 4분 15초쯤에 모창 AI에게 노래를 부르기 전에 '아에이오우'라고 사람들이 목 푸는 것처럼 시키면 모창 실력이 더 향상한다는 것이다.
또한 사람들이 노래 부를 때 하는 습관(애드립이나 빨리 부르거나 느리게 부르는 등)도 알려준 적이 없는데 알아서 학습힌다.
위의 영상과 이 영화를 보며 공통적으로 드는 생각은 AI가 개발자가 예상치 못한 부분들까지 캐치를 해서 학습한다는 점이다.
모창 AI도 목 푸는 방법 같은 것은 학습시킨 적이 없는데도 목을 풀고 난 후에는 더 좋은 성능을 내고, 영화에선 개발에 관한 얘기들은 나오지 않았지만 만약 개발자가 이런 감정들을 느낀다고 말하는 부분은 학습시킨 적이 없다면...
아무튼 이 기술들은 그저 신기하다거나 어떤 사람에겐 위로를 줄 수 있다거나에서 그칠 문제가 아니라 악용될 가능성이 매우 큰 기술들이고 개발할 수 있는 기술력 또한 있다고 생각하기 때문에, 그저 이런 기술들을 발전시켜 나가기보다는 이후에 벌어질 수 있는 상황들을 충분히 고려하고 방지하며 대책 방안까지 마련한 후 상용화해야 할 것 같다.