זו לא הפעם הראשונה בה אנו נתקלים בידיעה לפיה מערכות בינה מלאכותית "תופסות עצמאות". הפעם מגיעה הידיעה ממעבדות המחקר של 'פייסבוק'. שם, כך לפי הדיווחים, פיתחו שתי מערכות בינה מלאכותית שפה משלהן והפסיקו לתקשר עם מפעיליהן.
מטבע הדברים השפה בה תקשרו המפתחים עם המכונות הייתה אנגלית. אך לאחר שאלה הגדירו למכונות את תפקידן והטילו עליהן משימות, הן – המכונות – בחרו להמציא שפה משלהן שהשילה מעליה את כל המילים הרגשיות, החברתיות והליריות, ודיברו בינן לבין עצמן בשפה תכליתית, קצרה ויעילה שתאפשר להן למלא את המשימות שהוטלו עליהן.
המעניין הוא כי דיווחים על אירועים דומים גם במערכת הבינה המלאכותית של גוגל וגם במערכת הבינה המלאכותית שפותחה במעבדת OpenAהוכיחו כי "מכונות חושבות" נוטות להמציא שפה משלהן כדי למלא אחר משימות שיש להן למלא. ואם שאלתם מה עלה בגורלן של מערכות הבינה המלאכותית שפותחה בפייסבוק, התשובה היא: כלום. הן פשוט נותקו מהיכולת להמשיך ולפעול.
מקור: http://bizzness.net/
זה מה שכתבו באתר טכנולוגי על זה:
בעיתונות המיינסטרימית בעולם וגם בארץ החליטו משום מה להיתפס לנקודה הטכנית והזניחה הזו, ופרסמו אותה תחת כותרות סנסציוניות דוגמת "פאניקה בפייסבוק: נוטרלה בינה מלאכותית שהחלה לדבר בשפה משלה".
אלא שלא מדובר ב"שפה" עצמאית שפותחה על ידי הבינה המלאכותית, אלא פשוט בתוצר לוואי טכני. שיטת לימדת חיזוק "מתגמלת" את מערכת הבינה המלאכותית על "הצלחות" במקרה הזה החוקרים הגדירו הצלחה באופן פשוט לפי ערך הפריטים שהתקבלו במשא ומתן. באופן מקרי בתהליך האלתור המערכות התחילו ליצור משפטים שאינם נכונים תחבירית, ובמקרה חלק מהמשפטים הובילו לציון גבוהה בהתמקחות ולכן המוטציה התחבירית נשמרה ואף החריפה ככל שהאלגוריתם המשיך להתאמן. זו בעיה מוכרת בתחום למידת החיזוק וישנם דרכים פרקטיות להתגבר עליה, דוגמת הפיתרון של חוקרי פייסבוק.
אחת התוצאות המגניבות שעלו בניסוי היא שהמערכת למדה להשתמש בטקטיקה של הונאה. כלומר לעיתים המערכת הייתה מתחילה את המשא ומתן באמירה בסגנון: "אני ממש צריכה את הכובע!" למרות שבאותו משחק הכובע היה חסר ערך עבורה. כך המערכת יכלה "להתפשר" בשלב מתקדם של השיחה ובכל זאת להשיג רווחים גבוהים.
עוד כמה שנים יצטרכו להמציא תכנולוגיות פתרונות איך לשוחח עם המכונות שהם יהיו הפועלים והמוכרים הנהגים והשוטרים והחברים והשונאים ובעצם מה לא