[기고] 서울선언의 질문: AI, 책임은 누구 몫인가

우리는 매일 인공지능(AI)과 대화한다. AI는 우리 요청에 따라 글을 쓰고, 그림을 그리고, 영상과 음성을 만들어낸다. 몇몇 산업 현장에서는 사람보다 빠르게 판단하고 움직인다. AI의 역할은 정보 제공의 수준을 넘어 판단과 행동 영역으로 확대되고 있으며, AI가 제공하는 결과가 맞는 것인지, 그에 따른 책임은 어디에 있는지 등의 문제도 발생하고 있다. 기술은 시시각각 발전하지만 이를 사회의 질서로 묶어낼 기준은 준비가 더디다. AI는 지금 효율과 위험, 기대와 불안의 경계에 있다.

지난주 서울에서는 유엔(UN) 권고에 따라 국제표준화기구(ISO), 국제전기기술위원회(IEC), 국제전기통신연합(ITU) 등 세계 3대 국제표준화기구와 50여 개국 300여 명의 이해관계자가 ‘국제 AI 표준 서밋’을 위해 한자리에 모였다. 이제 AI는 디지털 혁명 시대의 새로운 기술을 넘어 기후 변화나 지정학적 불안처럼 인류가 함께 감당해야 하는 복합적인 과제로 올라섰다. 그리고 서울은 이 세계적 과제를 논의하는 장소로 선택됐다.

이번 서밋에서 우리는 AI의 올바른 사용을 위한 기준이 필요하다는 합의에 도달했다. 그리고 ‘서울선언’을 통해 AI가 개방성, 포용성, 공정성, 안전성과 신뢰, 지속 가능성이라는 원칙 위에서 발전해야 한다는 데 뜻을 모았다. 선언문은 AI가 단순한 기술적 성능 향상을 넘어 사회와 인권, 공공의 가치와 조화를 이뤄야 한다는 점을 분명히 했다. 또한 그 기준은 소수가 아닌 정부·기업·연구자·시민사회가 함께 참여하는 협력 구조 속에서 만들어져야 한다는 원칙도 분명히 했다.

서울 서밋은 지난 2년간 국제표준화기구 회장으로서 느껴온 지구적 공통 문제를 바라보는 국제사회의 인식 변화가 잘 드러난 순간이기도 했다. 불과 몇 해 전만 해도 AI는 ‘유망 기술’로 논의됐지만, 이제는 ‘관리하지 않으면 위험해질 수 있는 기술’로 인식되고 있다. 논의의 중심 또한 ‘성능과 속도’에서 ‘신뢰와 책임’으로 이동했다. 이는 기술 그 자체의 성숙뿐만이 아니라, AI가 인간의 삶과 사회의 질서에 어떤 영향을 미치느냐는 질문으로 논의의 초점이 옮겨가고 있음을 보여준다.

우리는 이번 서밋이 서울에서 열렸다는 점에 주목해야 한다. 서울은 디지털 기술의 최전선 도시이자 빠른 기술 수용과 사회적 논의가 동시에 이뤄지는 곳이다. 나아가 우리나라는 더 이상 AI 기술을 수동적으로 받아들이는 나라가 아니라, 그 사용 기준과 질서를 함께 설계하는 위치에 서야 한다. AI를 어떤 원칙 위에서 활용하느냐는 개별 기업의 경쟁력을 넘어 산업 구조와 사회의 발전 방향을 결정짓는 문제다. 이제 우리는 ‘기술 수용국’을 넘어 ‘기준 설계자’의 역할을 고민해야 한다.

표준은 기술과 시장, 국가 간 협력이 실제로 작동하게 하는 국제 질서의 언어다. AI처럼 폭발적으로 진화하는 기술은 법과 제도가 정비되기 전에 표준이 먼저 사용 방식과 책임의 경계를 제시할 수 있다. 각기 다른 제도를 가진 국가들을 연결하는 최소한의 공통 기준, 즉 표준이 존재할 때 기술은 갈등의 불씨가 아닌 협력의 도구로 작동할 수 있다. 서울에서 논의된 원칙들은 이제 그 국제 합의의 출발선이 됐다.

그러나 책임 있는 AI는 어느 한 국가나 기관의 노력만으로는 완성될 수 없다. 생성형 AI의 오남용, 허위 정보의 확산, 알고리즘의 불투명성, 지식재산권 등과 같은 문제는 국경을 가리지 않는다. 서울선언이 던진 과제는 분명하다. 국제사회는 이 원칙을 실제 표준과 산업 현장의 규범으로 구체화해야 하며, 우리나라는 그 과정에서 적극적으로 목소리를 내어 ‘서울선언’이라는 이름에 걸맞은 책임을 다해야 한다. 논의를 넘어 실행 단계로 나아갈 때 비로소 서울선언은 살아 있는 기준이 될 것이다.

AI를 비롯한 첨단 기술들은 앞으로 우리의 상상을 뛰어넘어 진화할 것이다. 하지만 그 기술이 어떤 사회를 만들고, 일자리를 어떻게 바꾸며, 사회 전반의 신뢰를 어떤 방식으로 재편할지는 기술 그 자체가 아니라 우리의 선택에 달려 있다. 서울에서 확인된 이 합의는 국제사회가 처음으로 함께 설정한 기준이다. 이제 남은 것은 분명하다. 이 기준을 선언에 머물게 할지, 정책과 제도, 그리고 일상의 기준으로 만들지는 우리의 선택에 달려 있다. 기술과 인간이 공존하는 미래는 선언이 아니라 책임을 선택하고 실천하는 사회에서만 시작된다.

조성환 국제표준화기구(ISO) 회장

사진 국제표준화기구 제공

서울살이 길라잡이 서울앤(www.seouland.com) 취재팀 편집