■ 과학·기술 진보, 평화의 길 돼야

교황은 ‘인공지능과 평화’를 주제로 발표한 담화에서 오늘날 인공지능이 하느님의 창조물인 인간으로부터 비롯됐다는 사실을 우선 분명히 밝히고 있다. 교황은 “하느님께서 인간에게 당신 영을 부어 주시어 ‘재능과 총명과 온갖 일솜씨’(탈출 35,31)를 주셨고, 인간 지능은 우리가 창조주께 받은 존엄을 표현한다”며 “과학과 기술은 창조주께서 당신과 비슷하게 당신 모습대로 만든 인간의 근본적인 특성을 드러내고, 인간 지능의 창조적 잠재력이 빚어낸 결과”라고 말했다.

그렇기에 과학과 기술의 뛰어난 성취에 대해 우리는 마땅히 기뻐하고 감사해야 한다. 과학과 기술의 진보에 힘입어 인류의 삶을 괴롭히는 수많은 질병을 치료할 수 있게 됐고, 인간이 통제할 수 없었던 현실에 통제력을 행사하게 됨으로써 방대한 선택권을 손에 쥐게 됐다. 그러나 교황은 “현대의 과학과 기술 가운데 어떤 것들은 우리 생존을 위협하고 우리 공동의 집을 위태롭게 만들지도 모른다”면서 “새로운 정보기술 특히 디지털 분야의 눈부신 발전은 흥미로운 기회이면서 동시에 중대한 위험을 제기해 민족들 간의 정의와 화합 추구에 심각한 영향을 미친다”고 경고했다.


■ 기대와 위험 사이 균형 이뤄야

교황은 최근 몇십 년 동안 정보기술의 진보와 디지털 기술 발전은 이미 국제사회에 근본적인 변화를 불러오기 시작했다며, 새로운 디지털 도구들이 커뮤니케이션, 공공 행정, 교육, 소비, 개인 상호관계 등 일상생활의 수많은 양상을 바꾸고 있다고 전제한 뒤, 인공지능의 미래에는 기대만 있는 것도, 위험만 있는 것도 아니라는 점을 지적했다.

교황은 “과학 연구와 기술 혁신이 현실과 유리된 중립적인 것이 아니라, 문화적 영향을 받는다는 사실을 명심해야 한다”며 “온전한 인간 활동으로서 과학 연구와 기술 혁신이 택하는 방향은 그 시대의 개인적, 사회적, 문화적 가치들이 조건 지은 선택을 반영한다”고 밝혔다. 그러면서 “인공지능의 발전이 인류 미래와 민족들 간 평화에 유익한 기여를 할 것이라고 선험적으로 가정할 수 없는 만큼 우리가 책임 있게 행동하고, 포용, 투명성, 안보, 공정, 사생활 보호, 신뢰와 같은 인간의 기본적 가치를 존중할 수 있다는 것을 보여줄 때만 긍정적 결과를 이룰 수 있다”고 덧붙였다. 이것은 인공지능이 인간에게 긍정적 결과를 가져다줄 가능성과 함께 인간의 기본적 가치가 존중되지 않는다면 부정적 결과를 야기할 위험도 내포하고 있다는 뜻이다.

교황은 오늘날 인공지능 발전을 ‘기술의 무한 확장’이라는 말로 표현하면서 “인간이 이기심, 개인의 이익, 이윤과 권력에 대한 갈망이라는 유혹에 진다면 자유와 평화로운 공존은 위협받기 때문에 기술 발전에 대한 적절한 책임 교육이 따라야 한다”고 요청했다. 아울러 “모든 인간이 타고난 존엄 그리고 한 인류 가족의 구성원으로 우리를 묶어 주는 형제애가 신기술 개발을 뒷받침하고 그 신기술 사용에 앞서 이를 평가하는 데에 확고한 기준이 돼야 한다”며 “중요성이 점점 커지는 인공지능이 제기하는 도전은 기술적이기도 하지만 인간학적, 교육적, 사회적, 정치적이기도 하다”고 설명했다.


■ 기술 지배에도 한계 인식해야

교황은 인공지능으로부터 얻게 되는 정보에는 왜곡 위험이 있고, 공정성이 보장되지 않는다는 점을 지적했다. “인공지능이 분석한 방대한 양의 데이터는 결코 그 자체로 공정성을 보장하지 않고, 알고리즘이 정보를 추론할 때는 언제나 왜곡 위험이 따르며, 정보가 생겨난 환경이 지닌 불의와 편견도 그대로 따라갈 수 있다”는 것이다. 계속해 “지능형 기계는 맡겨진 과제를 매우 효율적으로 수행할 수는 있지만 그 작동의 목적과 의미는 여전히 고유한 가치 체계를 소유한 인간이 결정하거나 마련할 수 있다”고 말했다.

그러나 “특정 결정들을 내리는 기준들은 명확성이 떨어지고 그 결정의 책임이 은폐되며, 생산자는 공동체의 선익을 위해 행동할 의무를 회피할 수 있는 위험이 있다”고 주의를 환기시켰다. 아울러 “기술적 지배체계는 경제와 기술을 연계하고 효율성의 기준을 최우선으로 삼으며 즉각적 이윤과 관련되지 않은 것은 무엇이든 무시하곤 한다”는 경고도 하고 있다.


■ 인공지능에 요구되는 윤리 문제

교황은 미래에는 구체적으로 주택 담보 대출 신청자의 신용, 개인의 직무 적합성, 유죄판결을 받은 이의 재범 가능성, 사회보호 수급권자의 권리 등이 인공지능 체계로 결정될 수 있다고 예측하면서 “이러한 형태의 조종 또는 사회적 통제에 세심한 주의와 감독을 기울여야 하고, 그 생산자, 배포자, 정부 당국은 명확한 법적 책임을 져야 한다”고 요청했다. 이어 “인간 존엄에 대한 근본적 존중에서 일련의 데이터를 통해 ‘개인의 고유성’을 확인하는 일을 반대해야 하고, 알고리즘이 우리가 인권을 이해하는 방식을 결정하거나 연민과 자비와 용서가 지니는 본질적인 인간적 가치를 없애버릴 수 없게 해야 한다”는 점을 부각시켰다.

교황은 특히, 인공지능이 군비 부문에서 인류에게 해악을 끼칠 수 있다는 사실도 경고했다. “원격제어 시스템을 통해 군사행동을 수행할 가능성은 이것이 야기하는 파괴에 대한 인식과 그 사용에 대한 책임감을 약화시켜, 전쟁의 엄청난 참상을 점점 더 냉담하고 무심하게 대하게 한다”며 “인공지능의 무기화를 비롯해 이른바 ‘치명적 자율 무기 체계’(Lethal Autonomous Weapon Systems)는 심각한 도덕적 우려를 불러온다”고 우려했다.

교황은 기술 발전이 인간존엄성을 존중하고 이에 봉사하기 위해서는 무엇보다 교육이 중요하다는 점도 강조했다. 특히나 “젊은이들은 기술이 속속들이 배어 있는 문화적 환경에서 성장하고 있기 때문에 우리의 가르침과 교육과 양성 방식에 도전이 될 수밖에 없다”며 “인공지능 사용에 관한 교육은 무엇보다도 비판적 사고를 촉진하는 데 목표를 두어야 한다”고 요청했다.

교황은 마지막으로 인공지능의 전 세계적 규모는 국내 사용을 규제하는 주권 국가의 책임과 동시에 국제기구가 다자간 협약을 체결하고 그 적용과 집행을 조정하는 데 결정적 역할을 할 수 있다는 점도 분명히 보여준다며 “다양한 유형의 인공지능 발전과 사용을 규제하는 구속력 있는 국제조약을 채택하고자 국제공동체가 함께 힘써 달라”고 권고했다.