새로운 기술이 등장하면 우리는 흔히 그 기술이 무엇을 할 수 있는지를 먼저 본다. 더 빠른가, 더 편리한가, 이전에는 못 하던 일을 가능하게 하는가. 나 역시 오랫동안 기술의 가치를 그런 방식으로 판단해왔다.

아이폰이 처음 등장했을 때 나는 비교적 일찍 구입했다. 당시 계룡시에서 두 번째 정도로 아이폰을 샀을 만큼 새로운 기술을 적극적으로 받아들였다. 새 제품 자체가 좋아서라기보다, 아이폰이 인터넷을 손안에 쥐여주는 기술이라고 생각했기 때문이다. 언제 어디서든 인터넷에 접속할 수 있다는 사실만으로도 우리의 생활방식을 크게 바꿀 좋은 기술이라고 보았다.

몇 년 전 AI에 관심을 갖기 시작했을 때도 비슷했다. 지금도 적지 않은 나이에 AI를 공부하고 여러 서비스를 직접 사용하고 있다. AI가 단순한 유행으로 끝나지 않고 우리가 일하는 방식, 지식을 얻는 방식, 나아가 생각하고 판단하는 방식까지 바꿀 것이라고 생각했기 때문이다. 새로운 기술을 멀리서 구경하기보다는 직접 배우고 써보는 쪽을 택했다.

그런데 AI는 사용할수록 질문을 더 많이 만들어냈다. 능력은 분명 놀랍다. 이전보다 빠르게 자료를 찾고 정리할 수 있고, 복잡한 문제를 분석하는 데 도움을 받을 수도 있다. 기후와 재난을 예측하거나 에너지 효율을 높이고, 안전·보건·교육 같은 분야에서도 새로운 가능성을 열 수 있다. 경제협력개발기구(OECD)의 AI 원칙 역시 AI가 포용적 성장과 지속가능한 발전, 인간의 삶에 기여하는 방향을 제시한다.

그런데 여기서 하나가 걸렸다. AI가 더 많은 일을 더 잘하게 해준다는 사실만으로 좋은 AI라고 할 수 있을까?

처음에는 AI를 이용하면 시간과 비용을 절약할 수 있다는 생각이 강했다. 그런데 여러 서비스를 적극적으로 사용하다 보니 구독료와 사용료도 하나둘 쌓인다. AI를 많이 쓰는 사람들 사이에서는 “AI 구독료를 지원해주는 회사에 다니면 좋겠다”는 우스갯소리까지 나온다.

물론 내 경험을 사회 전체의 현상으로 일반화할 수는 없다. 다만 내게는 한 가지 질문을 남겼다. 무엇을 얻는가? AI가 주는 생산성과 편리함, 문제 해결 능력과 새로운 가능성을 보자는 질문이다.

그런데 곧 그 옆에 다른 질문이 따라온다. 무엇을 치르는가?

AI는 화면 안에서 저절로 돌아가는 기술이 아니다. 컴퓨팅 장비와 에너지, 물리적 자원이 필요하고 경제적 비용도 든다. 개인정보·안전·공정성과 관련한 위험도 함께 생각해야 한다. 기술이 주는 편익을 보려면 그 편익을 얻기 위해 무엇을 사용하고 어떤 위험을 감수하는지도 같은 시야 안에 놓아야 한다.

여기까지 생각하니 또 하나가 마음에 걸렸다. AI를 잘 사용하는 사람과 그렇지 않은 사람 사이의 차이는 앞으로 어떻게 될까. 더 좋은 AI 모델과 서비스에 접근할 수 있는 사람과 그렇지 못한 사람 사이에 새로운 격차가 생기는 것은 아닐까. 아직 단정할 수 있는 문제는 아니다. 그러나 AI가 사회 전체에 만들어내는 편익이 비용보다 크다고 해도 그것만으로 충분할까. 총량의 문제와 분배의 문제는 다르다. 편익을 얻는 사람과 비용을 부담하는 사람이 다를 수도 있기 때문이다.

그래서 세 번째 질문이 생긴다. 누가 얻고 누가 부담하는가? 유엔의 「글로벌 디지털 콤팩트(Global Digital Compact)」가 디지털 기술의 혜택을 폭넓게 공유하고 디지털 격차와 불평등을 줄이는 방향을 강조하는 것도 이 문제와 맞닿아 있다. AI의 성과를 총량으로만 볼 것이 아니라, 그 편익과 부담이 사람과 사회에 어떻게 나뉘는지도 살펴봐야 한다는 것이다.

그러고도 질문은 하나 남는다. AI가 좋은 결과를 만들어냈다고 해도 문제가 생기면 누가 설명할 것인가. 누가 책임을 지며, 필요한 순간 사람이 개입할 수 있는가. 누가 책임지고 통제하는가?

OECD AI 원칙과 유네스코(UNESCO)의 「인공지능 윤리에 관한 권고」가 책임성, 인간의 감독, 안전과 권리의 문제를 함께 다루는 이유도 여기에 있다. 강력한 기술일수록 누가 어떤 방식으로 책임지고 통제하는가를 그 기술의 가치와 떼어놓기 어렵다. 

처음에는 AI의 성능을 보고 있었다. 그런데 질문을 하나씩 따라가다 보니 보는 것이 달라졌다. 무엇을 얻는가. 무엇을 치르는가. 누가 얻고 누가 부담하는가. 누가 책임지고 통제하는가. 성능과 편익에서 시작한 시선이 비용과 위험으로, 다시 사람과 사회로, 그리고 책임과 통제의 구조로 넓어진다. 환경적 부담, 사람과 사회에 미치는 영향, 책임 있는 운영까지 함께 보게 된다.

내게 ESG는 AI를 바로 이 넓어진 시야에서 바라보게 하는 하나의 렌즈다. 물론 이 네 질문이 좋은 AI와 나쁜 AI를 가르는 완성된 평가표는 아니다. 점수를 매기기 위한 체크리스트라기보다, 좋은 AI를 말하기 전에 적어도 무엇을 함께 물어야 하는지를 보여주는 지도에 가깝다.

아이폰을 처음 손에 쥐었을 때 나는 인터넷을 언제 어디서나 사용할 수 있다는 사실만으로도 좋은 기술이라고 생각했다. 지금도 그 판단이 틀렸다고 생각하지 않는다. AI가 인간의 삶을 크게 바꿀 것이라는 생각 역시 변하지 않았다. 오히려 직접 배우고 사용할수록 그 가능성을 더 구체적으로 보게 된다.

다만, 이제는 ‘좋은 기술’이라는 말을 조금 더 어렵게 쓰게 되었다. AI가 무엇을 할 수 있는지를 아는 것과, 그 AI가 인간과 사회에 좋은 기술인지를 판단하는 것은 서로 다른 질문이기 때문이다.

https://www.hanyangeconomy.com/news/articleView.html?idxno=10401