75 읽음
AI 투명성법 8월 발효, 생성물 출처 표기 의무화
위키트리
0
캘리포니아 베이에어리어(Bay Area) 지역 주 의원들이 발의한 인공지능(AI) 투명성 법이 토요일인 8월 1일(현지시각)부터 시행된다. 이 법은 AI로 만든 이미지·영상 등 콘텐츠에 출처와 생성 이력을 담은 정보를 쉽게 확인할 수 있게 심어 넣도록 하고, 이용자에게는 무료 AI 판별 도구를 제공하도록 의무화한다. 2024년 처음 통과된 이 법은 몇 년간 시행이 연기됐다가 이번에 발효되며, 학계와 시민단체로부터 “획기적인 AI 투명성 법”이라는 평가를 받고 있다. 법안을 공동 발의한 조시 벡커(Josh Becker) 캘리포니아주 상원의원은 “3년 전 이 문제가 제 눈앞에 닥쳤다”고 말했다. 딥페이크와 선거 관련 허위정보를 악용한 AI 사기 사례를 접하면서 입법에 나섰다는 설명이다.
이번에 시행되는 법은 캘리포니아 AI 투명성법(California AI Transparency Act)으로, 상원 법안 942호(SB 942)로 2024년 처음 통과됐다. 공동 발의자는 벡커 상원의원과 버피 윅스(Buffy Wicks, 민주당·오클랜드) 주 하원의원, 릭 차베즈 즈부어(Rick Chavez Zbur, 민주당·로스앤젤레스) 주 하원의원이다.
벡커 의원은 “이 콘텐츠가 AI로 만들어진 것인지 아닌지를 사람들에게 알릴 방법을 마련해야 한다는 것을 깨달았다”고 말했다. 그는 딥페이크와 선거 허위정보를 동원한 AI 사기가 확산하는 것을 목격하면서 입법에 관심을 쏟게 됐다고 밝혔다. 벡커 의원에 따르면 이번 법은 무엇이 가장 효과적인 방식인지를 3년에 걸쳐 고민한 결과물이다. 그는 기술이 계속 발전하는 만큼 앞으로도 관련 작업이 이어져야 한다고 덧붙였다.
법의 핵심은 디지털 파일에 붙는 부가 정보인 메타데이터를 활용하는 방식이다. 책의 저자나 노래 제목처럼 콘텐츠의 여러 속성을 설명하는 데 쓰이는 메타데이터를, AI가 콘텐츠를 생성하는 순간 자동으로 언제 어디서 만들어졌는지를 담아 붙이도록 하는 것이다. 이렇게 붙은 정보는 콘텐츠에 계속 남아있어 이용자가 향후에도 원본의 출처를 추적할 수 있다.
법 적용 대상은 캘리포니아 내 월간 이용자·방문자가 100만 명이 넘는 생성형 AI 시스템을 만드는 개발업체다. 이들 업체는 이미지·영상·음성 콘텐츠가 자사 시스템으로 만들어졌거나 수정됐는지를 이용자가 확인할 수 있는 무료 도구를 제공해야 한다. 또 기술적으로 가능하고 합리적인 범위에서, 콘텐츠에 제공업체명과 AI 시스템·버전, 생성 또는 수정 일시, 고유 식별자 등을 담은 잠재적 출처 정보(latent provenance data)를 심어야 한다. 이용자에게는 이 같은 정보를 명확하고 눈에 보이게 드러내는 공개 방식을 선택할 수 있는 옵션도 줘야 한다.
벡커 의원은 이런 방식이 이미지나 영상에 시각적으로 표시하는 워터마크보다 위조하기 어렵다고 설명했다. 워터마크는 실제 콘텐츠에 쉽게 덧붙이거나 AI 생성물에서 손쉽게 지울 수 있는 반면, 메타데이터에 출처 정보를 심는 방식은 상대적으로 조작이 어렵다는 것이다. 다만 그는 집행 방식과 기술 표준이 앞으로도 계속 바뀔 수 있다는 점은 인정했다.
법을 어긴 업체는 위반 1건당 5000달러의 민사 벌금을 물게 된다. 이 벌금은 주 검찰총장이나 시 변호사, 카운티 자문위원(county counsel)이 제기하는 민사소송을 통해 부과될 수 있다. 벡커 의원은 법이 실효성을 갖추려면 이 같은 집행이 핵심이라고 강조했다.
같은 사안을 다룬 마운틴뷰 보이스(Mountain View Voice) 보도에 따르면, 캘리포니아 규정이 시행되는 다음 날인 일요일부터는 유럽연합(EU)의 AI법도 발효된다. 해당 매체는 EU가 원래 일정을 늦춰 캘리포니아 규정에 맞춰 시행 시점을 조정했다고 정정 보도했다. 유럽의 AI 규제는 여러 영역을 아우르지만, 투명성 요건에 관한 부분은 캘리포니아 규정과 대체로 맞아떨어진다는 게 관련 보도의 설명이다.
이번에 시행되는 조항은 콘텐츠를 만드는 AI 업체를 겨눈 1단계에 해당한다. 다음 단계는 내년 1월 1일부터 시작된다. 관련 법안인 AB 853에 따라 대형 온라인 플랫폼은 콘텐츠에 규정에 맞는 출처 정보가 담겨 있는지 탐지하고, 이 정보가 있는지를 이용자에게 표시해야 한다. 또 이 정보를 알면서도 의도적으로 지우는 행위도 금지된다. 대형 소셜미디어 업체는 자신들이 유통하는 콘텐츠에 대해 이 같은 데이터를 탐지·공개하고, 콘텐츠가 AI로 생성됐는지를 보여주는 인터페이스를 이용자에게 제공해야 한다.
이후 단계도 예정돼 있다. AI 콘텐츠를 저장하는 호스팅 플랫폼은 2027년부터 공개 관련 의무를 지게 된다. 캘리포니아에서 판매되는 신규 카메라나 휴대전화 등 촬영기기는 2028년부터 출처 정보 관련 요건을 적용받는다. 실리콘밸리에서 시작된 이번 대응이 콘텐츠 제작 단계에서 유통·저장·촬영기기 단계로까지 단계적으로 확대되는 셈이다.