השבוע נודע כי תוכנת "הבינה המלאכותית", שבה משתמשת פייסבוק המציאה שפה חדשה, ופייסבוק, ככל הנראה, נאלצה להסירה ולהפסיק לפי שעה את פעילותה.
חדשות מרעישות ללא ספק.
שתי בוטים, כך על פי הדיווח, שוחחו ביניהם, ולא סתם שיחת חולין, אלא - המציאו שפה משלהם....
האתר Digital Journal דיווח לפני יומיים כי כבר בתחילת יולי 2017, נאלצו החוקרים במעבדות המחקר של פייסבוק, להפסיק את פעולתה של תוכנת הבינה המלאכותית, לאחר שהבחינו כי היא החלה לשוחח בשפה חדשה שהמציאה בעצמה.
מערכת הבינה המלאכותית המתקדמת של פייסבוק
בהחלט מעוררת השתאות, אבל גם לא מעט בהלה בקרב החוקרים. ואינסוף שאלות - הייתכן שהמערכת קמה על יוצריה? האם יש מצב שהבינה המלאכותית תבטל את הצורך בבני אדם? האם יוכלו הבוטים להסיק מסקנות? לנהל מו"מ?
מערכת הבינה המלאכותית של פייסבוק ניהלה משא ומתן עם מערכות בינה מלאכותית אחרות, כלומר: מערכת זו גם הייתה יכולה להגיע למסקנות כיצד להמשיך במשימתה.
פייסבוק, נציין, ממשיכה לשדר עסקים כרגיל, ושיגרה את תגובת המייסד והמנכ"ל מארק צוקרברג שהסביר כי: "הביטויים שנוצרו בשפה החדשה אינם הגיוניים על פני השטח, אך למעשה הם מייצגים את המשימה המיועדת של הבינה".
חוקרי פייסבוק טענו
כי על אף שתוכנות הבינה המלאכותית תוכנתו לדבר אנגלית, ביטויים חסרי משמעות אלה הם שפה שהבוטים פיתחו, כדי לתקשר ביניהם ולהחליט כמה משימות כל אחד מהם יקבל.
פייסבוק פרסמה קטע מ-"שיג ושיח" בין שני הרובוטים, בוב ואליס:
Bob: I can i i everything else.
Alice: balls have zero to me to me to me to me to me to me to me to to me
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me
בניסיון לפענח את השיח, הסבירו החוקרים:
כאשר בוב אומר, "i i can i i i everything else",
צוות החוקרים של פייסבוק סבור שהבוט ניסה להציע לאליס הצעה, ואולי לומר משהו כמו: "יהיו לי שלוש (משימות) ולך (יהיה) כל דבר אחר (כלומר: כל שאר המשימות)".
צוות הבינה המלאכותית של פייסבוק קבע שביטויים שהם עשירים במילים, אינם דורשים את השלמת המשימה.
לדברי החוקרים:
תוכנת הבינה המלאכותית פעלה על בסיס גמול, תמורה, רווח – ובמקרה זה, כיוון שלא היה גמול על המשך השימוש בשפה האנגלית, פיתחה הבינה המלאכותית שפה משלה, כי זו ברירת המחדל הראשונה שלה, כלומר, זו דרכה להיות יעילה באופן ספונטני".