AI 기본법 시행, 기업이 확인해야 할 핵심 의무 정리

최근 국내외에서 인공지능 관련 규제 논의가 빠르게 정리되고 있습니다. 국내에서는 AI 기본법 체계가 자리를 잡아 가고 있고, 유럽연합의 AI법 역시 단계적으로 적용 범위를 넓혀 가는 중입니다.

"우리 서비스도 해당될까요?", "무엇부터 준비해야 하나요?", "해외 서비스에도 적용되나요?" 이런 질문이 실무 현장에서 자주 나옵니다.

이번 글에서는 최근 논의의 큰 흐름과 실무에서 확인해 둘 만한 항목을 쉽게 정리해 보겠습니다.

규제 논의는 어떤 방향으로 가고 있을까요?

최근 논의의 공통된 특징은 모든 인공지능을 똑같이 규제하지 않는다는 점입니다. 대신 활용되는 영역과 그로 인해 발생할 수 있는 영향의 크기에 따라 요구 사항을 달리하는 방식이 자리를 잡고 있습니다.

예를 들어 사람의 안전이나 권리에 직접적인 영향을 줄 수 있는 영역에서는 더 많은 절차와 기록이 요구되는 반면, 영향이 제한적인 일반적인 활용에는 상대적으로 가벼운 기준이 적용되는 구조입니다. 이런 접근은 유럽연합의 AI법에서 먼저 정리되었고, 국내 논의도 비슷한 틀을 참고하고 있습니다.

자주 언급되는 의무 항목

세부 내용은 시행령과 고시를 통해 계속 구체화되고 있지만, 반복해서 등장하는 항목들은 어느 정도 정리해 볼 수 있습니다.

이 가운데 생성형 AI 결과물에 대한 표시는 비교적 많은 서비스에 영향을 주는 항목입니다. 이미지나 음성처럼 실제와 구분하기 어려운 결과물을 제공하는 경우에는 이용자가 이를 인식할 수 있도록 안내하는 것이 기본 방향으로 제시되고 있습니다.

해외 서비스에도 적용될까요?

최근 규제 논의에서 눈여겨볼 부분은 적용 범위가 사업자의 소재지가 아니라 서비스가 제공되는 지역을 기준으로 설계되는 경향이 있다는 점입니다. 즉 해외에 본사를 둔 사업자라도 국내 이용자를 대상으로 서비스를 제공한다면 관련 요건을 검토해야 할 수 있습니다.

이런 이유로 일정 규모 이상의 해외 사업자에게 국내 대리인을 두도록 하는 방식도 함께 논의되어 왔습니다. 구체적인 기준과 대상은 하위 규정에서 정해지므로, 해당 여부는 개별적으로 확인이 필요합니다.

실무에서 준비할 순서

규정을 처음부터 끝까지 읽는 것보다, 우리 서비스가 어디에 해당하는지 파악하는 작업이 먼저입니다.

특히 마지막 단계인 변경 사항 추적은 지금 시점에서 중요합니다. 법률 자체보다 시행령과 가이드라인이 실무에 미치는 영향이 큰 경우가 많고, 이 내용은 계속 보완되고 있기 때문입니다.

정리

• 최근 AI 규제는 위험 수준에 따라 요구 사항을 달리하는 방식으로 정리되고 있습니다.
• 생성형 AI 결과물에 대한 표시와 안내는 여러 서비스에 공통으로 영향을 줍니다.
• 적용 범위가 서비스 제공 지역을 기준으로 설계되는 경향이 있어 해외 사업자도 확인이 필요합니다.
• 세부 기준은 시행령과 가이드라인으로 계속 구체화되므로 최신 내용을 확인하시기 바랍니다.