Fix the system for the brave new world (KOR)

Artificial intelligence is rapidly replacing human intelligence as if in a science-fiction movie. AI already exceeds humans in compiling necessary information to nicely organize a report. With adequate commands, it can instantly write up a poem or a novel and draw pictures.

Since the stunning debut by OpenAI’s ChatGPT, super AIs in various forms are being born from many parts of the world. The breed is fast evolving thanks to the rapid advance in computing and deep learning algorithms that remain a puzzle even for experts in the field. The evolution of AI has been even faster than what AI guru and futurist Ray Kurzweil had envisioned in his 2005 book “The Singularity is Near.”

As the saying goes, where there is light, there is shadow. In videos created by AI, “deepfakes” spread misinformation or disinformation fast. AI voice cloning is used by scammers to impersonate and deceive people to give away money or sensitive information.

How can one not fall for it if you get calls from a voice identical to your children or parents? AI can invade public computer systems to bring chaos to power grids and traffic infrastructure.

Experts have come to raise alarms about the fallouts and shocks caused by AI. Geoffrey Hinton, dubbed as the godfather of AI deep learning technology, quit his job at Google to warn people about the “profound risks to society and humanity.” He warned, “It is hard to see how you can prevent bad actors from using it for bad things.”

OpenAI Co-founder and Tesla and Space X founder Elon Musk tweeted “Hinton knows what he’s talking about.” He had signed an open letter in March that called for a six-month pause on advanced AI system development, warning that heavy reliance on AI despite good intentions can be a threat to humanity.

AI advancements also calls for sweeping upgrades in laws and systems. There are a wide range of issues that need to be dealt with, including copyrights over AI creations, liability and compensation for self-driving vehicle accidents, not to mention tax payment.

AI is seen as a “destructive technology” that can bring about dramatic changes in innovations and human lives. We may become AI subjects if we do not ride on the AI-led seismic changes carefully. Companies are racing to make super AIs while universities are rushing to open AI graduate schools.

But Korea still lags far behind AI powerhouses like the U.S. and China. Through the concentration of national and social resources, we must build up consensus on how to upgrade our systems to meet the challenges for the brave new world.

현실로 다가온 AI시대…기술만큼 제도ㆍ윤리 정비 나서야

가짜 동영상, 보이스피싱…AI이용 범죄 출몰
인공지능 석학 “킬러로봇 현실 될까 두렵다”

영화 속 미래의 일이라고만 여겼던 인공지능(AI) 시대가 현실이 됐다. AI가 사람보다 더 뛰어나게 정보를 찾고 보고서를 만들어낸다. 명령어 몇 마디만 있으면 순식간에 시와 소설은 물론 그림까지 그린다. 미국 인공지능 기업 오픈AI의 챗GPT를 필두로 세계 곳곳에서 다양한 형태의 초거대 AI들이 출몰하고 있다. 나날이 발전하고 있는 컴퓨팅 파워와, 전문가조차도 이해하기 어려운 딥러닝(deep learning) 기법의 진화 덕이다. AI의 구루이면서 미래학자인 레이 커즈와일이 그의 저서 『특이점이 온다』(The Singularity is nearㆍ2005)에서 예측했던 AI의 급속한 진화보다 훨씬 더 이른 시점이다.

볕이 있으면 그늘도 존재하는 법이다. AI가 만들어낸 동영상 속에는 진짜와 구분이 안 갈 정도로 똑같은 특정 인물이 위험한 발언을 쏟아낸다. AI로 목소리를 복제한 보이스피싱 피해 사례도 늘고 있다. 아들·딸과 똑같은 목소리의 전화가 걸려와 급하게 돈을 보내달라면 속지 않을 사람이 얼마나 될까. 더 큰 문제는 AI가 시스템에 파고들어 전력이나 교통 등 공공기능을 교란할 위험까지 우려된다는 점이다.

급기야 AI 전문가들까지 나서 ‘미래의 충격’을 염려하기 시작했다. 오늘날의 AI를 만든 ‘딥러닝의 대부’ 제프리 힌턴 박사는 지난달 AI의 위험성을 알리기 위해 구글에 사표를 낸다면서 “AI의 악용 시도를 막기 어려울 것”이라고 경고했다. 그는 AI 기술이 적용된 킬러로봇이 현실이 될까 두렵다고도 했다. 오픈AI 공동 설립자이면서 테슬라와 스페이스X의 창업자인 일론 머스크도 “AI에 대한 선의의 의존도 인류 문명에 위협이 될 수 있다”고 말했다. 그는 지난 3월 AI업계 유명 인사들과 함께 “최첨단 AI 시스템의 개발을 최소 6개월간 중단하라”는 공개 성명서를 내기도 했다. AI의 발전은 지금까지의 법과 제도 변화까지 요구하고 있다. AI가 만든 창작물의 저작권 문제, 자율주행차 교통사고 때 책임 및 보상 체계, 세금 부과 등 그간 생각지 못했던 것들이 한두 가지가 아니다.

AI는 지금까지의 기술뿐 아니라 인류의 삶조차도 바꿔놓을 ‘파괴적 기술(destructive technology)'로 평가받고 있다. AI 기술이 도약점을 넘어 특이점을 향해 치닫는 지금은 AI의 쓰나미에 올라타지 않으면 철저한 AI 종속국가로 전락할 수밖에 없는 시간이다. 최근 수년간 주요 대기업들이 앞다퉈 초거대 AI를 만들고, 주요 대학에 인공지능대학원을 설립하는 등 애쓰고 있지만, 미국·중국 등 AI 강대국의 수준에는 미치지 못하는 게 현실이다. 국가·사회 자산의 선택과 집중을 통해서라도 AI 기술 발전과 더불어 미래를 맞이할 관련 제도의 개선, 이를 위한 공감대를 갖춰 나가야 할 시점이다.