חברות שיבוט קוליות פוגעות בחוסר אמצעי הגנה נגד רמאים

חברות שיוצרו כלים של AI (Genai) הגורטיביים שיכולים לשכפל קולות אינן עושות מספיק כדי למנוע רמאים להשתמש בהם כדי להונות את הלקוחות,על פי מחקר מדוחות צרכניםו

המחקר מצא כי ארבע מתוך שש חברות המספקות את השירותים לא בנו מספיק חסמים כדי למנוע את שיבט קולותיהם של אנשים במרמה.

דוחות צרכניםכלי שיבוט קוליים נבדקו ומצאו שארבע חברות - אחת -עשרות, דיבור, פלייט ולוו - לא סיפקו שום דרך להבטיח למשתמש הסכמת הרמקול לשכפל את קולם. התוכנה גם לא הציבה מעקות טכניים כדי למנוע שיבוט קול.

הפרסום הצליח ליצור בקלות שיבוטים קוליים באמצעות שמע הזמין לציבור עם כלים מארבע החברות. זה נדרש רק לסימן תיבת סימון שלמשתמש הייתה הזכות החוקית ליצור שיבוט קול.

לשתי חברות, תיאור ודמות AI, היו יותר אמצעי הגנה על ידי הגבלת העלאות של שמע שהוקלט מראש.

התיאור דרש מהמשתמש לקרוא את הצהרת ההסכמה, ששימשה כבסיס ליצירת שיבוט הקול. דמה ל- AI דרשה לאדם לבצע הקלטת קול בזמן אמת כדי ליצור שיבוט איכותי; הניסיונות ליצור שיבוט המבוסס על שמע שהוקלט מראש היו באיכות ירודה.

ובכל זאת, הבודקים הצליחו לעקוף את אותם אמצעי הגנה, מה שהניע את המגזין לקרוא לסטנדרטים הדוקים יותר. "אנו טוענים שתעשיית שיכוון הקול המתהווה צריכה לאמץ נורמות וסטנדרטים כדי להקל על הסיכון להונאה", "דוחות צרכניםאמר.

כלים של ג'נאי הפכו את שיבוט הקול לאפשרות, והיא משמשת יותר ויותר להונאה.

הרמאים משתמשים בכלים כסוג של הנדסה חברתית כדי לרמות קורבנות מכסף או כדי להפיץ מידע שגוי. במקרים רבים הם יוצרים אודיו ריאליסטי של קרוב משפחה או חבר קרוב לבעיה ומורמים מתקשרים כדי לשלוח במרמה כסף או לחשוף מידע רגיש.

הטכנולוגיה משמשת גם לגישה לחשבונות בנק על ידי עקיפת אימות זהות קולית. THEה- FBI הוציא התראה בדצמברעל תוכניות שיבוט וידאו וקולי המשמשות להונאה פיננסית.

בנק אחד בבריטניה, סטארלינג, הואהמלצה על לקוחות להשתמש בביטוייםלאמת את האדם בקו אינו שיבוט. הבנק ממליץ גם למשתמשים להגן על קולם על ידי הגבלת הגישה למדיה החברתית.

כלי פרודוקטיביות מסינטזיה ו- D-ID שיוצרים אווטרים דיגיטליים משיבוט קול ווידאו הםו הכלים יכולים ליצור סרטונים מציאותיים המשלבים את שיבוטים הווידיאו והקול של אנשים, מה שחוסך על עלות שכירת צוותי הפקה.

לסינתיה יש מדיניות אתיקה ומדיניות AI למניעת התעללות. זה מונע שיבוט לא-סורתי על ידי הצבת בדיקות מבוססות ביומטריות כדי להבטיח שהאדם שיוזם את בקשת השיבוט זהה לאדם בקטעים, אמר אלכסנדרו Voica, דובר סינטסיה.

החברה גם מיישמת מתינות תוכן חזקה בנקודת היצירה, לפני שנוצר סרטון, המבוסס על מדיניות זמינה לציבור למניעת יצירת תוכן מזיק.

"אנו עובדים עם ארגוני צוותים אדומים עצמאיים כדי להבטיח שהגישה שלנו תהיה חזקה ככל האפשר", אמרה וויקה.