학습 목표
이 영상을 통해 EU의 AI 생성물 표시 의무화 법안과 그에 따른 AI 기업들의 워터마크 도입 현황 및 기술적 원리를 이해할 수 있습니다.
핵심 개념
- EU AI Act: AI가 생성한 콘텐츠임을 명시하도록 의무화하는 유럽 연합의 법안입니다. 위반 시 매출의 최대 3%까지 과징금이 부과될 수 있습니다.
- AI 워터마킹: AI가 생성한 텍스트나 이미지에 보이지 않는 표식을 삽입하여 해당 콘텐츠가 AI에 의해 생성되었음을 식별하는 기술입니다. 구글의 SynthID, Anthropic의 Claude 워터마킹 등이 예시입니다.
- LLM의 단어 선택 원리: LLM은 다음에 올 단어의 확률을 계산하고, 이 확률 분포에 따라 단어를 선택하여 문장을 생성합니다. 워터마킹은 이 과정에서 특정 단어(워터마크용 단어)를 더 자주 선택하도록 조작하는 방식으로 구현될 수 있습니다.
- Seed: 컴퓨터에서 난수를 생성할 때 초기값으로 사용되는 숫자입니다. LLM의 단어 선택 과정에서도 seed를 조작하여 특정 단어가 선택될 확률을 높이는 방식으로 워터마킹이 가능합니다.
공부 방향성
AI 생성 콘텐츠의 투명성 확보를 위한 법적, 기술적 노력에 대해 알아봅니다. 워터마킹 기술의 작동 방식과 한계점을 이해하고, 향후 AI 윤리 및 저작권 문제에 대한 논의를 확장해 볼 수 있습니다.