이 그림은 고흐의 그림일까요? 생성형 AI의 맹점

이 그림은 고흐의 그림일까요? 생성형 AI의 맹점

 

이 그림은 고흐의 그림일까요? 생성형 AI의 맹점

AI의 이중성: 창조와 파괴 사이

인공지능(AI)의 발전은 인간의 일상과 창조 활동에 혁신적인 변화를 가져왔습니다.

그러나 이러한 발전이 늘 긍정적인 결과만을 낳는 것은 아닙니다. 최근에는 AI가 인간의 창의성을 침해할 수 있다는 우려가 커지고 있습니다.

인터넷에 게시된 수많은 작품들이 AI의 학습 데이터로 무단 사용되면서 저작권 침해 문제가 심각해지고 있습니다.

이에 따라, 유럽연합(EU)은 AI 학습 과정에서 사용된 콘텐츠를 명시하도록 하는 법안을 제정하기도 했습니다.

그러나 이러한 규제가 모든 국가에 적용되는 것은 아니어서 많은 창작자들이 여전히 보호받지 못하는 상황입니다.

 

글레이즈와 나이트셰이드: 창작자를 위한 방패

미국 시카고대 컴퓨터과학과 벤 자오 교수가 이끄는 연구팀은 이러한 문제를 해결하기 위해 '글레이즈(Glaze)'와 '나이트셰이드(Nightshade)'라는 두 가지 프로그램을 개발했습니다.

글레이즈는 창작자의 독창적인 화풍을 AI가 모방하지 못하도록 보호하는 '스타일 망토'를 제공합니다. 예를 들어, 디즈니 애니메이션 스타일의 그림에 글레이즈를 적용하면, AI는 이를 반 고흐의 유화처럼 인식하게 됩니다.

이는 AI가 해당 작품을 학습할 때 오류를 발생시켜, 원작자의 스타일을 보호할 수 있도록 합니다.

반면, 나이트셰이드는 더 공격적인 접근을 택합니다. 이 프로그램은 원본 이미지에 전혀 다른 키워드의 이미지 데이터를 덧씌워 AI가 제대로된 결과물을 생성하지 못하게 합니다.

예를 들어, '강아지' 이미지에 '고양이' 데이터를 덧씌우면 AI는 이를 혼동하여 정확한 강아지 이미지를 생성하지 못하게 됩니다.

이러한 기법은 AI가 무단으로 이미지를 학습하는 것을 방해하여, 창작자의 권리를 보호하는 데 큰 역할을 합니다.

딥페이크와의 전쟁: 더 나은 감지 기술이 필요하다

 

AI의 또 다른 부정적인 측면은 딥페이크 기술의 악용입니다.

딥페이크는 현실과 구분하기 어려운 가짜 이미지나 동영상을 만드는 기술로, 최근 여러 법적 및 사회적 문제를 일으키고 있습니다.

성균관대 데이터사이언스 융합학과의 우사이먼성일 교수는 이 문제에 대응하기 위해 딥페이크에 바지를 입히는 기술을 연구하고 있습니다.

이 기술은 AI가 생성한 이미지에서 부적절하거나 민감한 내용을 자동으로 수정하여, 사용자들에게 더 자연스러운 결과물을 제공합니다.

 

결론: AI의 발전을 비판적으로 바라보자

AI 기술의 급속한 발전은 많은 가능성을 열어주지만, 그에 따른 사회적 영향도 심각하게 고려해야 합니다.

AI 개발사와 관련 기관은 이러한 기술의 부작용에 대해 선제적으로 대응할 필요가 있습니다.

따라서 기술 개발자뿐만 아니라 일반 사용자들도 AI의 발전을 비판적으로 지켜보며, 문제를 파악하고 해결하는 데 적극적으로 참여해야 할 것입니다.

AI 시대의 창과 방패의 싸움은 계속될 것이며, 우리 모두가 이 대응에 동참하는 것이 중요합니다.

 

 

*다른 흥미로운 포스팅이 궁금하시면 여기를 클릭해 주세요^^

육성재와 지코, 음악으로 이어진 운명적인 인연