AI가 생성한 맛없는 메뉴 뒤에 숨어 있는 평등 문제

그런 일이 처음 당신에게 일어날 때, 당신은 자신이 미쳤다고 생각합니다. 당신은 커피숍에 들어가서 다양한 베이글 샌드위치가 있는 메뉴를 보지만, 각각의 그림은 이상할 정도로 흠잡을데 없고 정확하게 대칭을 이루고 이상하게 매끄러워서 뭔가 잘못되었다는 본능적인 느낌을 불러일으킵니다. 편집증이 있다고 생각할 수도 있지만 정신을 잃지는 않습니다. 이유를 설명할 수 없을 때에도 잘못된 느낌을 주는 협소하고 “좋은” 미학에 대해 훈련된 모델 덕분에 생성적 AI 메뉴가 레스토랑 비즈니스에 등장했습니다.

때때로 이러한 일러스트레이션은 엄청나게 가짜입니다. 마치 치즈가 들어간 부리토처럼 거품이 많고 녹는 듯한 느낌이 들기 때문이죠. 아방가르드 예술 점심보다. 더 자주, 그들은 그렇습니다 흔한 찾고 당신이 뭔가를 알아 차리는 것은 잘못된 잠시 시간을 내어 자세히 살펴보세요.

Reality Defender의 CTO인 Alex Lisle은 TechCrunch에 “기본 원리를 이해하지 못한 채 피자를 만들려는 외계인과 거의 같습니다.”라고 말했습니다. (Reality Defender 자체는 부분적으로 이와 같은 문제 때문에 존재하는 AI 탐지 및 콘텐츠 검증 도구를 판매하는 스타트업 카테고리의 성장에 속합니다.)

Lisle은 이러한 모델이 구성되는 방식이 일러스트레이션이 특정 미학을 취하는 것처럼 보이는 이유를 설명하는 데 도움이 될 수 있다고 말했습니다. 아이스크림의 각 스쿱은 완벽하게 둥글고 새우는 자신의 꼬리를 먹도록 유전적으로 변형되어 새로운 “Lovecraftian 음식 공포.”

LLM(대형 언어 모델) 및 확산 모델(챗봇과 ChatGPT 및 Midjourney와 같은 전지적 이미지 생성기를 가능하게 하는 AI 모델 유형)은 대량의 데이터에 대해 훈련됩니다. 그런 다음 모델은 데이터 세트의 패턴을 식별하여 사용자가 “버거 레스토랑 메뉴를 만들어 주세요”와 같은 질문을 할 때 무엇을 찾고 있는지 예측합니다.

Lisle은 “이러한 것 중 상당수가 2015년 칠리 메뉴와 비슷해 보이는 데에는 이유가 있습니다”라고 말했습니다. “그것이 바로 그 작품의 모음이었습니다. [the models] 그는 자신의 역할을 그렸습니다.”

새로운 교육 데이터는 AI 모델을 구축하는 회사에게 매우 중요합니다. Amazon은 학습 데이터를 스캔하고 추가하기 위해 희귀한 서적을 소싱하는 것으로 나타났습니다. 그 책들을 파괴해라 일단 업로드되면. 일부 AI 생성 콘텐츠가 이해할 수 없을 정도로 큰 데이터 세트로 유출되는 것은 불가피합니다. 그러나 AI 모델이 자체 AI에서 생성된 너무 많은 콘텐츠로 훈련되면 위험할 수 있습니다. 모델 붕괴.

“모델 붕괴는 거의 광우병과 같습니다… 모델 피드백의 결과가 나오면 결국 근친교배가 과도해지고 모든 것이 붕괴됩니다.”라고 Lisle은 설명했습니다. “여기서 우리가 보는 것은 수렴이지만 반드시 모델이 붕괴되는 것은 아닙니다.”

수렴은 다소 덜 극단적이며 AI를 완전히 쓸모 없게 만들지 않으면서 AI 결과의 품질을 저하시킵니다.

누군가 AI 모델에게 패스트푸드 레스토랑의 메뉴를 생성해 달라고 요청하면 모델은 Wendy’s, Burger King, McDonald’s 또는 기타 유명 체인점의 메뉴를 참조할 가능성이 높습니다. 이러한 메뉴는 이미 유사한 스타일을 공유합니다. 즉, AI 생성 결과는 동일한 스타일을 모방하고 AI 생성 메뉴가 훈련 데이터에 다시 포함되는 경우에만 이를 더욱 강화합니다.

그러나 메뉴와 음식 광고는 항상 실제보다 더 좋아 보입니다. 소품 디자이너가 샌드위치의 각 층을 배열하여 가능한 한 맛있어 보이도록 하는 맥도날드 광고의 빅맥처럼 말입니다. 이 효과는 AI 결과에서 더욱 두드러질 수 있습니다.

Elon University의 Imagining the Digital Future Center 소장인 Lee Rainie는 TechCrunch에 “데이터 세트 최적화는 불쾌감을 주지 않고 만족시키기 위한 것이므로 균질화되는 방법이 있습니다”라고 말했습니다. “이미지와 언어 모두에서 AI가 수행하는 것으로 알려진 작업은 가장자리를 제거하는 것입니다.”

보다 지역화된 규모에서 AI 이미지 생성기를 사용하여 메뉴를 만들고 편집 내용을 적용할 때 이러한 이미지 스무딩이 발생하는 것으로 보입니다. X에서는 다음과 같은 사용자가 있습니다. 실험실 ChatGPT에서 메뉴를 만든 다음 100번 편집하여 음식이 점점 더 닮아 보이는지 확인하면 어떤 일이 일어나는지 보여주었습니다. (실험을 반복하여 비슷한 결과를 얻었습니다.)

Labtec은 “최종 결과는 나를 정말 불편하게 만든다”고 적었습니다.

레스토랑은 이 문제의 희생양이 될 가능성이 높으며 AI가 생성한 메뉴를 수정하여 가격이나 품목 이름과 같은 작은 세부 사항을 계속해서 변경합니다. 편집할 때마다 음식 이미지가 좀 더 둥글고 부드러워지는 것 같습니다.

Rainie는 “사람들은 AI가 생성한 것을 볼 때 애초에 실제 있었던 것과 비교했을 때 거의 설명할 수 없는 느낌을 받습니다.”라고 말했습니다. “사람들은 때때로 표현하기 어렵다고 생각하는 감성이 있지만, 보면 그것을 어느 정도 알게 됩니다. 그리고 그것이 반발에 대한 초기 이야기 중 일부가 이유 중 하나라고 생각합니다. [against restaurants using AI menus] 너무 뚜렷해요.”

이러한 AI 메뉴에 대한 우리의 혐오감 뒤에는 과학이 있습니다. 독일 뒤스부르크-에센대학교 연구진 AI가 생성한 음식 이미지가 ‘불쾌한 계곡’ 효과를 나타내는 것을 발견했습니다.거의 진짜처럼 보이는 음식 이미지는 명백히 가짜인 이미지보다 더 많은 혐오감과 우려를 불러일으켰습니다. 이러한 우려는 AI를 둘러싼 문화적 맥락에 비추어 볼 때 더욱 심해집니다.

사람들이 이러한 이미지에 너무 부정적으로 반응한다면 레스토랑이 AI 메뉴 작동을 중단할 충분한 이유가 될 것입니다. 그러나 완벽하게 갈색이 된 햄버거 빵이 우리에게 가져오는 문제는 테이블 너머로 확장됩니다.

Lisle은 “보고 듣는 것은 항상 믿어 왔습니다. 우리 사법 시스템조차도 증거의 최적 기준이 기록된 자백과 비디오 증거라는 생각에 완전히 적응하고 있습니다”라고 Lisle은 말했습니다. “더 이상 그렇지 않습니다. 세상은 좋든 나쁘든 근본적으로 변했습니다.”