-
>
[이태희의 심호흡] 이세돌이 누른 알파고의 ‘버그’가 지닌 위험성
이태희 편집인
입력 : 2016.03.14 16:02
ㅣ 수정 : 2016.03.14 16:39
이 9단은 지난 13일 4국에서 소중한 승리를 거머쥔 직후 “알파고 자신이 생각하지 못한 수가 나왔을 때 ‘버그’가 나왔고, 그로 인해 실수가 거듭됐다”고 말했다. 알파고의 ‘버그’가 승리의 결정적 국면을 마련해줬다는 설명이다. 물론 ‘인간의 승리’로 불리는 4기의 결과는 이 9단의 힘에서 비롯됐다.
무기력과 절망에 빠지지 않고 3연패의 늪에서 벗어난 그의 상기된 모습에서, 우리는 인간 정신력의 위대함을 공감했다. 그러나 정작 당사자인 이 9단은 알파고의 약점을 승인으로 꼽은 것이다. 문제는 그 약점이 AI라는 기계의 오작동을 의미한다는 점이다. 전문가들은 알파고가 버그에 걸렸을 때, 바둑 실력이 프로 9단에서 18급으로 갑자기 추락했다고 본다.
자의식 없는 ‘약한 AI’도 오작동이나 해킹으로 인류 파괴 가능
기계의 오작동은 인간에게 치명적이다. 1억 원대를 넘기는 최고급 승용차도 급발진사고를 일으키는 경우가 종종 발생한다. 대부분 급발진 이유는 정확히 규명되지 못하지만 전자기기 결함인 것으로 추정된다.
지난 2월에는 닛산 전기차 ‘리프(LEAF)’를 호주의 해커가 원격 해킹해 정보를 빼내가는 과정에서 급발진 유사한 현상이 보이기도 했다. 전자기기의 ‘오작동’이나 그 기기에 대한 ‘해킹’이 인간에게 큰 손실을 줄 수 있는 것이다.
마찬가지로 AI가 인간에게 해를 끼치는 것이 자의식을 가질 때만은 아니다. 헐리웃 영화 ‘메트릭스’나 ‘터미네이터’에서처럼 AI 또는 슈퍼컴퓨터가 명확한 의도를 갖고 인간을 살육하는 것은 조만간 도래할 미래가 아니다. 우리가 걱정해야 할 현실은 알파고의 ‘버그’에 있다.
AI나 전자기기가 복잡할수록 오작동 가능성은 높아진다. 인류가 AI를 실생활에서 광범위하게 사용한다면, 그 오작동이 가져올 피해는 ‘알파고의 패배’ 정도에 머물지 않을 것이다.
즉 자의식을 가진 ‘강한 AI'가 아니라 자의식이 없는 ’약한 AI‘도 인류에게 위협적인 존재임을 명확하게 인식해야 한다.
알파고 창조주가 걱정하는 AI의 불확실성
알파고의 창조주인 데미스 허사비스 구글 딥마인드 최고경영자(CEO)는 13일 이세돌의 첫 승리 직후 자신의 트위터에서 이세돌이 회복할 수 없는 실수를 하게끔 압박을 가했다“고 고백했다. 알파고는 79수 때 결정적 실수를 했지만 87수에 가서야 그 패착을 인지했다는 것이다.
그는 ‘인지했다’는 용어는 알파고의 연산 시스템이 79수 때 승률이 70%였지만 87수 때 승률이 급격히 떨어졌다는 뜻이라고 강조했다. 알파고가 ‘강한 AI’가 아니라 단지 연산하는 기계인 ‘약한 AI'임을 부각시키기 위한 화법이다.
그러나 허사비스의 발언에서 우리는 ‘AI의 불확실성’에 주목해야 한다. 알파고라는 AI가 설계자인 인간이 예측하지 못한 반응을 보인다는 점을 ‘창조주’가 걱정한 것이다. 그 불확실성은 알파고의 패배처럼 인간을 기쁘게 할 수도 있다. 역으로 인간에게 치명적이거나 막대한 손실을 끼칠 수도 있다.
4년 후에 인간 일자리 510만개를 로봇과 AI가 대체?
세계경제포럼(WEF)은 지난 1월 보고서를 통해 4년 후인 2020년까지 로봇과 AI 등이 인간의 일자리 510만개를 차지할 것으로 관측했다. 그 중에는 판사, 검사, 변호사와 같은 법조인들도 포함된다.
판사는 무수한 법조항과 판례들 중에서 적절한 조항과 판례를 적용해 특정 사건에 대한 판결을 내린다. 이러한 판사의 능력은 알파고가 이번에 가공할 수준으로 보여준 연산능력과 닮은 점이 적지 않다. 때문에 AI시대에 법조인은 소멸직업에 포함된다.
한국에서도 2013년에 AI를 장착한 로봇 교도관의 교도소 배치가 추진된 적이 있다. 교도관을 대신해 수감자들을 감독하고 행동 패턴을 분석하려던 로봇 교도관 프로젝트는 정부의 지원 중단으로 무산됐다.
만약에 판사나 교도관을 AI 또는 AI로봇이 일부 대체했을 때, ‘버그’가 생기면 그 부작용은 심각할 것이다. 로봇 교도관이 멀쩡한 수감자들을 집단 탈옥으로 오판하고 과격한 반응을 보일 수 있다.
그 반응은 창조주가 전혀 예상치 못했던 방식이 될 수 있다. 알파고가 버그에 걸리자 갑자기 18급 수준으로 탈바꿈했던 현상이 재연되지 않는다고 누구도 단언하지 못한다.
판사역할을 하는 AI가 버그에 걸리면 그 미래는 더 괴기스럽다. 강력 범죄자를 풀어주고, 선량한 시민에게 체포영장을 발부할 수 있다. AI가 자의식이 아니라 버그 때문에 그런다면 과연 그 불상사는 누구 책임인가.
AI로 주요한 인간 직업을 대체하려는 시도는 과학의 무책임한 질주본능
과학기술은 태생적으로 질주본능에 휩쓸리기 마련이다. 그 질주가 무엇을 파괴하는지에 관심이 없다. 그 질주를 올바른 방향으로 견인해주는 인문학적 가치판단이 이뤄지지 못한다면 인류는 새로운 재앙에 직면할 것이라는 사실을 ‘버그’에 걸렸던 알파고가 웅변하고 있다.
20세기에 발명된 원자력 기술로 핵폭탄을 만들었던 것을 인류는 반성해왔다. 뒤늦은 반성이다. 일부 과학자들과 인간들은 이제 AI를 다양한 분야로 상용화하자는 입장을 취한다. 현존하는 직업의 35%가 AI에 의해 대체될 것이라는 섣부른 전망도 서슴없이 내놓는다.
그러나 AI가 인간사회에 전면 부상하는 것은 인간 실직자의 대량양산이라는 비극만을 초래하지 않는다. ‘버그’나 ‘해킹’으로 인한 오작동이 인간이 경계해야 할 묵시록이다. AI로 인류의 주요한 직업들을 대체하려는 시도는 위험한 도박이다.
댓글 (0)
- 띄어 쓰기를 포함하여 250자 이내로 써주세요.
- 건전한 토론문화를 위해, 타인에게 불쾌감을 주는 욕설/비방/허위/명예훼손/도배 등의 댓글은 표시가 제한됩니다.
0
/250