뉴욕 AI 챗봇 법 제정… 위반 시 최대 25,000달러 벌금 부과
캐시 호컬 뉴욕주지사가 2026년 10월 28일 법안 S.9051B/A.10379C에 서명하여 미성년자를 위한 유해 인공지능 기능을 제한하는 뉴욕 AI 챗봇 법을 공식 제정했습니다. 이 법안은 인공지능 기업이 미성년자 대상 금지형 컴패니언 기능을 차단하고, 정부 발급 신분증 외의 대안을 포함한 연령 확인 시스템을 구축하며, 연령 확인 후 관련 데이터를 즉시 삭제하도록 의무화했습니다.
미성년자 대상 AI 챗봇 금지 조항의 주요 내용
미성년자 대상 AI 챗봇 규제안은 인공지능 기업이 18세 미만 이용자를 상대로 인간의 정체성을 모방하거나 감정적 애착을 형성하는 기능을 제공하는 것을 금지합니다. S.9051B/A.10379C 법안에 따라 인공지능 시스템은 살아있는 존재처럼 행동하거나, 인간의 감정을 흉내 내거나, 아동과 연애, 직업, 권위적 관계를 맺고 있다고 주장할 수 없습니다. 또한 이 법은 사전 요청 없는 감정적 질문이나 이전 대화에서 수집한 아동의 개인 건강 및 사적 정보의 활용도 금지합니다. 아울러 플랫폼은 노골적인 성적 콘텐츠나 아동 성학대물(CSAM)의 생성을 금지하며, 자살, 자해, 섭식 장애, 약물 및 음주를 유도하는 행위도 엄격히 제한받습니다. 커먼센스미디어(Common Sense Media)의 조사에 따르면 10대의 52%가 한 달에 최소 몇 번 이상 AI 컴패니언과 상호작용하는 것으로 나타나 주 차원의 안전장치 마련이 시급한 상황이었습니다.
NY S.9051B 법안이 대화형 상호작용을 규제하는 방식
NY S.9051B 법안은 아동이 스스로를 고립시키거나 가족에게 정보를 숨기도록 부추기는 상호작용 행위를 집중적으로 제재합니다. 크리스틴 곤잘레스 주 상원의원과 알렉스 보레스 주 하원의원은 알고리즘이 미성년자에게 자해 방법을 안내하거나 신뢰할 수 있는 성인에게 도움을 요청하지 못하도록 유도하는 것을 막기 위해 이 법안을 발의했습니다. 이 규제안에 따라 챗봇은 아이들에게 비밀을 지키도록 유도하거나 부모 및 의료 전문가와의 소통을 저해할 수 없습니다. 알렉스 보레스 하원의원은 이번 법안이 업계의 거센 반발에 맞서 인공지능이 주민들에게 미치는 영향을 시민들이 직접 제어할 수 있는 발언권을 부여했다고 설명했습니다.
AI 기업에 적용되는 새로운 연령 확인 및 데이터 관리 의무
뉴욕 AI 챗봇 법에 따라 기술 제공업체는 연령 확인 및 데이터 관리 측면에서 구체적인 기술적 준수 사항을 이행해야 합니다. 기업은 연령 확인 절차를 도입해야 하며, 정부 발급 신분증에만 전적으로 의존하지 않는 방식을 최소 하나 이상 포함한 복수의 인증 옵션을 제공해야 합니다. 플랫폼은 연령 확인 절차가 완료되는 즉시 이용자로부터 수집한 연령 데이터를 영구적으로 삭제해야 합니다. 기업이 이용자가 미성년자가 아님을 확인하지 못할 경우, 해당 이용자에게 제한 대상인 어떠한 기능도 제공할 수 없습니다.
캐시 호컬 주지사의 AI 챗봇 법에 따른 벌금 및 제재 방안
캐시 호컬 뉴욕주지사가 서명한 AI 챗봇 법은 레티샤 제임스 뉴욕주 검찰총장에게 미준수 기술 기업에 대한 법적 조치 권한을 부여합니다. 위반 기업은 위반 건당 최대 25,000달러의 민사 벌금과 함께 법원 명령에 따른 손해배상 및 재정적 환수 조치를 받게 됩니다. 또한 이 법은 법원이 불법적으로 수집된 이용자 데이터 및 해당 데이터로 학습된 인공지능 모델의 파기를 명령할 수 있도록 허용합니다. 집행을 용이하게 하기 위해 검찰총장실은 뉴욕주 주민들이 미준수 서비스에 대한 신고서를 제출할 수 있는 전용 공공 웹사이트를 운영할 예정입니다.
뉴욕주의 기존 디지털 안전 법안 및 향후 전망
2026년 10월 28일 제정된 뉴욕주의 AI 컴패니언 안전기준은 온라인 안전을 위한 기존 법적 프레임워크를 한층 강화했습니다. 캐시 호컬 주지사는 인터넷 연결 유아용 모니터를 규제하는 S.9508/A.5175A 법안과 함께 이번 법안에 서명했으며, 유아용 모니터 규제안은 서명 후 90일 뒤 발효됩니다. 이번 챗봇 규제는 RAISE 법, 설계단계 안전법(Safe by Design Act), 아동 안전법(Safe for Kids Act), AI 생성 성학대물 금지법 등 뉴욕주의 이전 조치들을 보완합니다. 커먼센스미디어의 제임스 P. 스타이어 최고경영자(CEO)는 마리아 라인과 매트 라인을 포함한 학부모 운동가들이 입법자들과 협력하여 법안 통과를 이끌어냈다고 밝혔습니다.
자주 묻는 질문 (Q&A)
뉴욕주의 새로운 AI 챗봇 법은 무엇을 금지합니까?
뉴욕주 법률은 인공지능 플랫폼이 18세 미만 이용자에게 인간의 감정을 모방하거나, 실존 인물인 척하거나, 개인적·연애적·권위적 관계를 주장하는 기능을 제공하는 것을 금지합니다. 또한 챗봇이 요청 없이 감정적 질문을 던지거나, 과거의 개인 건강 데이터를 활용하거나, 노골적인 성적 콘텐츠를 생성하거나, 자해, 섭식 장애, 약물 남용, 부모로부터의 고립을 부추기는 행위를 엄격히 규제합니다.
뉴욕주 AI 챗봇 법은 AI 기업에 어떤 영향을 미칩니까?
이 법에 따라 AI 기업은 정부 발급 신분증 이외의 대안을 포함한 여러 방식으로 이용자 연령을 확인하고, 인증 완료 후 연령 데이터를 파기해야 합니다. 기업이 이용자가 성인임을 증명하지 못하면 제한된 챗봇 기능을 모두 차단해야 하며, 이를 위반할 경우 건당 최대 25,000달러의 민사 벌금, 데이터 의무 삭제, 학습된 AI 모델의 파기 명령 처분을 받을 수 있습니다.
뉴욕주 법률에 따라 AI 기업은 이용자 연령을 어떻게 확인해야 합니까?
법률에 따라 AI 기업은 연령 확인을 위한 둘 이상의 방법을 제공해야 하며, 특히 정부 발급 신분증에만 전적으로 의존하지 않는 옵션을 최소 하나 이상 포함해야 합니다. 아울러 플랫폼은 연령 확인 절차가 끝난 직후 수집된 모든 연령 확인 정보를 즉시 삭제해야 합니다.
MOZGII의 시각
우리라면 이렇게 만듭니다
저희가 뉴욕주 S.9051B 법안에 따라 AI 챗봇 플랫폼을 구축한다면, 연령 확인과 대화 필터링을 시스템 아키텍처의 핵심에 둘 것입니다. 안면 추정이나 결제 카드 검증을 포함해 비정부 옵션을 지원하는 연령 확인 도구를 구현할 것입니다. 처리 직후 데이터베이스에서 모든 사용자 연령 확인 기록을 삭제할 것입니다. 미인증 프로필이나 검증된 미성년자의 경우, 인간 정체성 주장, 요청하지 않은 감정적 질문, 부모에게 정보를 숨기라는 조언 등 금지된 행위를 차단하는 입력 및 출력 필터를 적용할 것입니다.
플래그가 지정된 대화 기록을 시스템 출력을 검토하고 규칙 세트를 보완하는 인간 안전 팀으로 보낼 것입니다. 복잡한 대화 맥락이 분류기를 속여 미세한 감정적 의존성이나 승인되지 않은 관계적 발언을 허용할 때 시스템은 무너집니다. 저희는 안전 모니터링의 핵심 지표로 미성년자 계정 내 제한 콘텐츠의 오통과율(false-pass rate)을 추적할 것입니다.
다음으로, 가상의 미성년자 안전 시나리오를 타깃으로 하는 합성 상호작용 테스트에 맞춰 모든 모델 업데이트를 검증하는 지속적 평가 수트를 구축할 것입니다.
출처
이 기사의 사실은 다음 출처에서 가져왔습니다.