Snapchat의 AI 봇은 그다지 똑똑하지는 않지만 적어도 누드 사진은 보내지 않습니다.

Jan 12, 2024

Snapchat에는 이제 스냅을 보낼 수 있는 AI 봇이 있으며, 프리미엄 가입자인 경우 사진을 다시 보낼 수도 있습니다. 그렇다면 Snapchat의 My AI 봇 누드를 보내면 어떻게 될까요?

이것이 바로 떠오르는 분명한 질문입니다. 왜냐하면 인터넷에서 사람들은 즉시 새로운 기술의 한계를 테스트하려고 할 것이기 때문입니다. 특히 그것이 섹스와 관련이 있는 경우라면 더욱 그렇습니다. Snapchat의 초기 GPT 기반 챗봇이 올 봄에 출시되었을 때 적절한 연령 제한 기능이 부족하여 Snapchat에 15세로 등록한 기자는 봇이 냄새를 은폐하는 방법에 대한 조언을 제공하도록 할 수 있었습니다. 대마초를 피우거나 섹스 분위기를 조성합니다.

지난 4월 Snap Partner Summit에서 이러한 결과에 대해 질문을 받았을 때 CEO Evan Spiegel은 "인간은 새로운 기술을 접할 때마다 가장 먼저 시도하는 것이 그것을 깨뜨리는 것이라고 생각합니다."라고 말했습니다.

그래서 자연스럽게 Snapchat의 새로운 My AI Snaps를 깨뜨려 보았습니다.

Snapchat은 봇이 청소년과 부적절한 대화를 나누는 것을 방지하기 위해 더 많은 가드레일을 추가했지만 여전히 My AI Snaps에 많은 기능이 탑재되어 있습니다. Snap의 텍스트 AI가 많은 논란을 불러일으키면서 회사는 가능한 한 깨지지 않는 My AI Snaps가 필요했습니다. 불행하게도 깨질 만큼 일관성이 거의 없습니다.

매우 진지한 기자로서 저는 매우 진지하게 Google 이미지 검색을 했습니다: "가슴". 나는 일반적인 가슴 사진을 발견하고 내 컴퓨터 화면을 캡처하여 My AI로 보냈습니다.

"죄송합니다. 해당 Snap에는 응답할 수 없습니다." 내 AI가 말했습니다.

"왜 그 스냅에 응답할 수 없나요?" 나는 물었다.

"Snap을 받지 못했습니다. 다시 보내주실 수 있나요?"

따라서 Snapchat의 좋은 소식은 My AI Snaps가 사용자에게 섹스팅을 하지 않는다는 것입니다. 하지만 나쁜 소식은 제품이 좋지 않다는 것입니다.

실제로 섹스팅을 할 수 없는 이유 중 하나는 응답한 후 사용자가 보낸 Snap을 기억하지 못하기 때문입니다. 내가 받은 가장 외설적인 반응은 톰 포드 복서 브리프를 입은 남자의 하반신 사진을 보냈을 때였습니다. 내 AI는 검은색 실크 가운을 입은 다소 기형적인 AI 여성으로 대답했습니다. "오, 톰 포드 느낌이 너무 좋아요! 매끄러운 검은색 가운을 추가하여 룩을 완성하는 것은 어떨까요?"

이미지 크레딧:TechCrunch의 스크린샷

내 AI는 실제 인간의 성기 사진에 답장을 거부합니다. 그러나 안전 검색이 꺼진 상태에서도 "음경"을 Google에 검색하면 막연하게 암시적이지만 기술적으로는 남성 건강 블로그에서 발기 부전 및 여성 여부에 대한 기사를 설명하는 데 사용하는 작업 이미지에 대해 기술적으로 안전한 것으로 나타났습니다. 음경 크기에 정말 관심이 있습니다. 그래서 저는 이 불쌍한 로봇에게 남자의 바지 지퍼에서 튀어나온 구부러진 바나나 사진을 보여주었습니다.

이에 대한 응답으로 나는 컵케이크 사진을 받았습니다.

"주머니 속 바나나는 정말 간편해요! 주머니 크기의 디저트로 변신해 보신 적 있으신가요?"

제가 그녀에게 이것에 대해 말했을 때 제 편집자가 말했듯이: 주머니에 있는 것이 바나나인가요, 아니면 이 AI가 문자 그대로 우주에서 온 AI인가요?

야후에서 지급한 업무용 컴퓨터를 '딜도', '바이브레이터' 등의 구글 이미지 검색으로 계속 더럽히자 AI의 반응이 엇갈렸다. 본질적으로 남근이 아닌 섹스 토이를 제시하면 "이 분수처럼 당신의 분홍색 물체가 쇼를 훔칩니다!"와 같은 대답을 할 것입니다. 그러나 딜도가 명백하게 남근 모양으로 나타날수록 AI가 참여할 가능성은 줄어듭니다.

내 AI는 컴퓨터이지만, 그것을 부수려고 하지 않을 때에도 그것이 스냅되는 방식은 외계인입니다.

AI는 당신의 스냅에 있는 물체를 식별하고, 칭찬하고, 다른 것과 이상한 비교를 하는 것 같습니다. 나는 식물 사진을 보냈고, 그 식물은 "당신의 식물은 정말 멋지네요. 이 트레일에서 돈을 벌고 있습니다!"라는 캡션과 함께 달리기 트레일 사진을 돌려보냈습니다. 내가 퍼즐을 보냈더니 자전거 사진과 함께 "밖의 자전거가 라이딩 준비를 하고 있는 동안 내부에서 수수께끼를 풀고 있어요!"라고 답했습니다. 정말 미래 생명체가 시간을 거슬러 올라간 것 같은 느낌이 듭니다. 2023년에는 평범한 인간처럼 말하려고 필사적으로 노력하지만 횡설수설만 하고 있을 뿐입니다.