글로벌 디지털 비즈니스 및 IT 서비스 분야의 리더인 NTT 데이터(NTT DATA)의 새로운 연구에 따르면, 기업들이 AI를 도입하기 위해 경쟁하고 있지만, 책임의 격차로 인해 발전이 저해될 위험에 처해 있다. 경영진의 80% 이상이 리더십, 거버넌스, 인력 준비도가 AI의 발전 속도를 따라가지 못하고 있어서, 투자, 보안, 대중의 신뢰가 위험에 처하고 있는 현실을 인정했다.

‘AI 책임 격차: 리더십이 해결의 관건인 이유’라는 제목의 이 보고서는 34개국 2300여 명의 최고 경영진과 의사결정권자로부터 인사이트를 도출해 AI 혁신과 윤리적 책임을 조화시키기 위한 리더십 주도의 전략 마련이 시급함을 밝혔다.

NTT 데이터 최고경영자인 아비지트 두베이(Abhijit Dubey)는 “AI에 대한 열정은 부인할 수 없지만, 이번 연구 결과는 책임감 없는 혁신은 위험 승수가 된다는 사실을 보여준다. 조직은 발전이 정체되고 신뢰가 약화되기 전에 이러한 격차를 줄이기 위해 리더십이 주도하는 AI 거버넌스 전략을 세워야 한다”라고 말했다.

주요 연구 결과: 확대되는 AI 책임 격차

· 혁신 대 책임을 두고 벌어지는 이사회실의 전투 - 최고 경영진이 나뉘고 있다. 경영진의 3분의 1은 혁신보다 책임이 더 중요하다고 생각하는 반면, 나머지 3분의 1은 안전보다 혁신을 우선시하며, 나머지 3분의 1은 두 가지를 동일하게 여긴다.
· 성장을 억누르는 규제 불확실성 - 리더의 80% 이상이 불명확한 정부 규제가 AI 투자 및 구현을 가로막고 도입을 지연시킨다고 답했다.
· AI 목표에 뒤처지는 보안 및 윤리 - 최고 경영진의 89%는 AI 보안 위험에 대해 우려하고 있지만, CISO의 24%만이 자신의 조직에 AI 위험과 가치 창출의 균형을 맞출 수 있는 강력한 프레임워크가 마련돼 있다고 생각한다.
· 준비되지 않은 인력 - 최신 생성형 AI 보고서에서 공유한 바와 같이, 응답자의 67%는 직원들이 AI를 효과적으로 활용하는 기술이 부족하다고 답했고, 72%는 책임감 있는 사용을 안내하는 AI 정책이 마련돼 있지 않음을 인정했다.
· 지속가능성 문제 대두 - 리더의 75%는 AI 목표가 기업의 지속가능성 목표와 상충하기 때문에 조직이 에너지 집약적인 AI 솔루션을 재고할 수밖에 없게 된다고 답했다.

리더십의 의무: AI 책임 격차 해소

단호한 조치가 없다면 조직들은 AI의 발전이 윤리적이고 안전하며 효과적인 AI 채택을 보장하는 데 필요한 거버넌스를 앞질러 버리는 미래를 맞이할 위험에 처해있다. 리더들이 반드시 해결해야 할 문제는 다음과 같다.

1. 책임을 고려한 설계(Responsible by Design) 원칙 - 생성형 AI를 포함한 AI는 처음부터 끝까지 모든 부분에서 책임감 있게 구축돼야 하며, 개발 첫날부터 보안, 규정 준수 및 투명성을 통합해야 한다.
2. 거버넌스 필수적 요구 - 리더들은 법적 요건을 넘어서 체계적인 접근 방식을 통해 AI 윤리 및 사회적 기준을 충족해야 한다.
3. 인력 준비도 - 조직은 AI와 함께 일할 수 있도록 직원의 직무 능력을 향상하고, 팀이 AI의 위험과 기회를 이해하고 있도록 해야 한다.
4. AI 정책에 대한 글로벌 협업 - 기업, 규제 기관, 업계 리더가 함께 모여 보다 명확하고 실행 가능한 AI 거버넌스 프레임워크를 만들고 글로벌 AI 표준을 수립해야 한다.