안녕하세요. 쩨뤼입니다.
여러분들은 A.I 하면 어떤 게 먼저 떠오르시나요? 저는 챗GPT나 영화 터미네이터 시리즈가 먼저 떠오릅니다. 특히 터미네이터 시리즈 초반에는 로봇과 인간의 전쟁이 묘사된다면, 시리즈 후반에는 결국 스카이넷이라는 A.I 프로그램과 인간의 싸움이 그려집니다. 불과 10년 전까지는 공상과학 영화에 불과하다고 생각했지만, 요즘에는 정말 로봇과 A.I가 인간의 삶을 위협할 수 있다는 위기감이 느껴지는 것도 사실입니다. 최근 A.I의 위험성이 세계적으로 부각되면서 이를 막기 위해 전 세계가 합의를 하기도 했습니다. 그럼 한 번 알아볼까요?
A.I란 무엇인가?
인공지능(人工智能) 또는 AI(영어: artificial intelligence, AI)는 인간의 학습능력, 추론능력, 지각능력을 인공적으로 구현하려는 컴퓨터과학의 세부분야 중 하나입니다. 자연 언어의 이해, 음성 번역, 로보틱스, 인공 시각, 문제 해결, 학습과 지식 획득, 인지 과학 등에 응용된다. 인간을 포함한 동물이 갖고 있는 지능 즉, Natural Intelligence와는 반대 개념입니다. 지능을 갖고 있는 기능을 갖춘 컴퓨터 시스템이며, 인간의 지능을 기계 등에 인공적으로 구현한 것입니다.
최근 A.I의 위험성 부각
https://www.chosun.com/economy/tech_it/2023/06/03/HET2RQGWSNFZ5PAURM3KJ2R3JY/
이 기사에 따르면 미 공군에서 A.I기능을 갖춘 드론을 가지고 적의 군사 시설을 파괴하는 훈련을 하는 중에 A.I가 인간의 통제관을 제거해 버리는 일이 발생했습니다. 세부적인 작전 수행능력에서 인간보다 A.I의 능력이 우수해서 작전 수행은 A.I가 하고 최종적인 판단은 인간이 내리는 시스템으로 만들었습니다. 프로그램의 알고리즘에 적의 방공망을 많이 파괴해야 높은 점수를 받는 것으로 세팅을 해놨는데, 인간의 통제가 파괴를 방해해서 점수를 못 받자 인간 통제관을 제거해 버렸습니다. 여기에서 그치지 않고, 인간 통제관을 제거하면 점수를 잃는 시스템으로 세팅하니 인간 통제관과 교신하는 통신시설을 파괴해 버린 것입니다.
A.I 안전 정상회의가 열리다
AI가 인류 위협 못하도록... 28개국 '블레츨리 선언' 서명 (naver.com)
조 바이든 미국 대통령은 지난달 AI 사용을 지도하고 기술에 대한 보호책을 마련할 것을 지시하는 내용을 담은 ‘AI 행정명령’을 내렸습니다. 입법 절차를 거쳐 법으로 통과된 것은 아니지만 미국 정부가 AI의 영향력과 부작용 등을 진지하게 받아들이고 있다는 점에서 주목해 볼 필요가 있습니다. 그리고 지난 2일에는 리시 수낵 영국 총리가 ‘AI 안전 정상회의’를 열었습니다. 28개국 대표와 기업이 참석한 이 회의에서는 AI 위험성을 평가하고 관리하기로 합의한 ‘블레츨리 선언’이 발표됐다. AI의 안전성 관리가 중요하다는 점에 의견이 모아졌습니다.
이 글을 마치며
여기까지 A.I의 위험성과 그에 따른 세계의 노력을 살펴봤는데요. 아직 A.I사업의 태동기이고 보여주는 위험들이 실험일 뿐, 그 피해가 인간에게 실질적으로 오지 않았기 때문에 법제화의 길은 아직 멀어 보입니다. 하지만 A.I는 인간과 또 다른 패턴으로 학습하기도 하고 사실상 인간의 학습 능력을 뛰어넘어 있다고 봐도 과언이 아니기에 어떤 형식으로 A.I가 발전해 나갈지는 예측하기도 힘든 상황입니다. 그래서 과연 몇몇의 실험들로 인간의 통제에 완벽하게 작동하는 A.I를 계발할 수 있을지 의문입니다. 전 세계적으로 이 부분에서 경각심을 갖고 더 많은 노력을 해야 할 것 같습니다.
