SynthID Detector פתוח לכולם: בודקים אם תמונה, סרטון או אודיו נוצרו ב-AI ומי יצר אותם

גוגל פתחה לכולם את SynthID Detector, אתר שבודק אם תמונה, סרטון או קובץ אודיו נוצרו או נערכו בכלי AI. הוא מחפש סימן מים בלתי נראה שגוגל והחברות השותפות שלה מטביעות בתוכן ברגע שהוא נוצר. מה שחדש באמת הוא שהאתר מזהה גם תוכן מכלים של OpenAI, NVIDIA ו-Kakao וכותב בתוצאה מאיזו חברה הסימן הגיע. לפי גוגל Apple תצטרף בקרוב.

מה זה SynthID Detector ומה השתנה

SynthID הוא סימן מים של גוגל. הוא לא הלוגו שרואים בפינה של תמונה ולא מידע שנשמר בצד בתוך הקובץ. החתימה נטמעת בפיקסלים של התמונה או הסרטון ובתדרים של הקול, כך שהעין לא רואה אותה והאוזן לא שומעת אותה. גוגל מטביעה אותה מאז 2023 בתוכן שהכלים שלה יוצרים. לפי החברה סומנו עד היום יותר מ-180 מיליארד תמונות וסרטונים ו-240 אלף שנים של אודיו.

עד עכשיו הבדיקה הייתה מפוצלת. Gemini מזהה את הסימן רק בתוכן של גוגל. OpenAI פתחה דף בדיקה משלה שמזהה רק תוכן של OpenAI. מי שקיבל סרטון בקבוצת וואטסאפ לא יודע באיזה כלי הוא נוצר, אז הוא גם לא יודע איפה לבדוק. SynthID Detector בודק בבת אחת את כל החברות שהצטרפו ל-SynthID.

על הבדיקה דרך Gemini יש באתר מדריך מלא. הגלאי החדש לא מחליף אותה אלא מרחיב אותה לחברות נוספות. לפי גוגל הבדיקות שכבר מובנות ב-Search, ב-Gemini וב-Chrome מקבלות יותר ממיליון בקשות ביום. האתר החדש פתוח בכל העולם בממשק באנגלית.

בדקתי אותה סצנה משתי חברות

כדי לראות אם הגלאי באמת מבדיל בין חברות, ביקשתי מ-Gemini ומ-ChatGPT את אותה תמונה במילים זהות: חתול רחוב ג'ינג'י שישן על מכסה מנוע של מכונית חונה בשכונה ישראלית, באור בוקר, שייראה כמו צילום טלפון. יצאו שתי תמונות שקשה להבדיל מצילום אמיתי.

העליתי את שתיהן לגלאי. שתיהן זוהו ובכל אחת הגלאי כתב גם את שם החברה שיצרה אותה:

גם מי יצר אותה

זה החלק הכי שימושי בעדכון. עד היום תשובה שלילית ב-Gemini לא אמרה כלום על תמונה מ-ChatGPT. עכשיו בדיקה אחת אומרת גם אם יש סימן וגם של מי הוא. ליד כל זיהוי מופיעה הסתייגות: הסימן מעיד מאיפה הקובץ הגיע ולא מה נעשה בו אחר כך.

סרטון עם סאונד: שני פסים נפרדים

אחר כך ביקשתי מ-Gemini סרטון של 10 שניות שבו אותו חתול מתעורר, מתמתח וקופץ למדרכה. Gemini יצר אותו יחד עם פסקול.

בסרטון הגלאי בודק בנפרד את התמונה ואת הקול ומסמן על ציר הזמן כל קטע שבו מצא את הסימן. אצלי שני הפסים סומנו לכל האורך, כי כל הסרטון וכל הסאונד נוצרו ב-AI.

הבדיקה לפי קטעים שימושית כשקטע שנוצר ב-AI משולב בתוך סרטון ארוך יותר, או כשמדביקים קול מלאכותי על צילום אמיתי. כל פס נבדק לחוד, אז רואים איזה חלק נוצר ב-AI.

ניסיתי למחוק את הסימן

לתמונות המקוריות מ-Gemini ומ-ChatGPT מצורפת גם תעודת מקור בתקן C2PA. זה מידע שנשמר בתוך הקובץ ונמחק בקלות, למשל בצילום מסך או בשמירה מחדש. לכן הכנתי 3 גרסאות שאין בהן שום מטא-דאטה ובדקתי אם הסימן עצמו שורד:

הגלאי זיהה את שלושתן וגם את החברה הנכונה בכל אחת. זה תואם את מה שגוגל כותבת: הסימן בנוי לשרוד פילטרים, שינויי צבע ודחיסה. היא גם כותבת שמי שינסה בכוונה הרבה שינויים עלול בסוף למצוא אחד שמוחק אותו. לכן זה כלי בדיקה טוב ולא הוכחה חותכת.

Gemini לא זיהה את אותה תמונה

את הגרסה הדחוסה מ-ChatGPT העליתי גם ל-Gemini ושאלתי אם היא נוצרה ב-AI. Gemini לא מצא כלום: את סימן המים הוא מזהה רק בתוכן של גוגל ואת תעודת המקור כבר מחקתי. בסוף התשובה הוא עצמו הפנה ל-synthid.com.

אותו קובץ קיבל ב-Gemini תשובה שלא נמצא סימן ובגלאי החדש זיהוי של OpenAI. זה בדיוק הפער שהעדכון סוגר.

מה "לא נמצא סימן" אומר

העליתי גם צילום אמיתי של הכלבה שלי מהטלפון. הגלאי לא מצא בו סימן, אבל הוא עצמו מסייג את התשובה.

"לא נמצא" לא אומר שהתוכן אמיתי. האתר כותב שהוא לא גלאי AI כללי, כי הוא מזהה רק את הסימנים של החברות השותפות. תוכן שנוצר ב-AI יכול לעבור בלי סימן בשלושה מקרים:

• הוא נוצר בכלי שלא הצטרף ל-SynthID.
• הוא נוצר לפני שהחברה התחילה לסמן.
• הוא עבר עריכה או דחיסה כבדה מספיק כדי להחליש את הסימן.

יש גם מקרה הפוך ונדיר: לפי גוגל הגלאי עלול לזהות סימן בתוכן שלא סומן. לכן לפני שמשתפים סרטון או תמונה שנראים חשודים, כדאי לבדוק מי פרסם אותם ואם מקור אמין נוסף מדווח על אותו דבר.

אילו חברות מסמנות את התוכן שלהן

הגלאי מזהה רק סימנים של חברות שאימצו את SynthID. אלה החברות שמופיעות היום באתר ומה כל אחת מסמנת:

הלוגואים לקוחים מהגלאי עצמו. במאי גוגל כתבה שגם ElevenLabs מצטרפת ל-SynthID, אבל היא עדיין לא מופיעה ברשימה של הגלאי. מקורות: OpenAI, Kakao, Apple וגוגל.

מיני מדריך: איך בודקים קובץ

1. נכנסים ל-synthid.com ומאשרים את תנאי השימוש.
2. מתחברים עם חשבון Google, Apple או ChatGPT. בלי התחברות אי אפשר לבדוק.
3. גוררים קובץ לחלון או לוחצים Select file.
4. מחכים כמה שניות. בזמן הבדיקה עוברת על הקובץ רשת של משבצות ואז מופיעה התוצאה.

כדאי להעלות את הקובץ באיכות הכי גבוהה שיש, כי דחיסה ועריכה כבדה פוגעות בזיהוי. לכל חשבון יש מכסה יומית של בדיקות. לפי הודעת הפרטיות של האתר, הקובץ נמחק מיד אחרי שהתוצאה מגיעה וגוגל שומרת ממנו רק חתימה דיגיטלית ל-24 שעות כדי לאכוף את המכסה. תנאי השימוש אוסרים להריץ בדיקות אוטומטיות או לנסות לשבור את הסימן בכוונה.

ומה עם טקסט?

SynthID מסמן גם טקסט שנוצר ב-Gemini, אבל הגלאי בודק רק תמונות, סרטונים ואודיו. ב-5 באוקטובר OpenAI הודיעה שתוסיף בשבועות הקרובים סימן מים בלתי נראה לטקסט של ChatGPT ו-Codex באיחוד האירופי, בטכנולוגיה משלה בשם textGrain ולא ב-SynthID. על סימני מים בטקסט ועל מה שמוחק אותם יש באתר פוסט נפרד מ-25 באוגוסט.

שאלות נפוצות