יש לנו היום בעייה רצינית עם רשתות הלמידה העמוקה - הן קופסאות שחורות לגמרי. אנחנו נותנים להן ללמוד משהו בעצמן, אבל אז אין לנו מושג איך הן מצליחות במשימה שלהן. תציצו לתוך הקופסה, למוח, ותראו שם מליוני חוטים (מטאפוריים) מחוברים בתסבוכת איומה אחד לשני, בלי שום דרך להבין באופן אינטואיטיבי איך זה עובד בדיוק.
קחו את אלפא גו המפורסמת של גוגל. אחרי ששיחקה כנגד עצמה מליוני משחקי גו, היא השתפרה במשחק עד כדי כך שניצחה את אלוף העולם. אבל איך היא עושה את זה? למה היא בוחרת דווקא מהלך כזה ולא מהלך אחר? אף אחד לא יודע להסביר.
כאן דיקודיה נכנסת לתמונה. המערכת שלהם יודעת לקחת מודל קיים, ואז לתפור מעליו סיפור שמסביר את ההחלטות שלו.
יש המשך למטה.
Ниже есть продолжение.
https://www.facebook.com/groups/1742464739390368/permalink/2168785486758289/תראו איך ההדגמה שלהם מסבירה משחקי שחמט. עד היום, אם הייתם מתייעצים עם מחשב שח, הייתם מקבלים הסבר סתום כמו "אם תזיז את הרץ לשם, הסיכוי שלך לנצח ירד ב 2.4%, אבל אם תלך עם המלכה, הסיכוי יעלה". אבל למה? ומה זה מלמד אותי?
המערכת של דיקודיה לעומת זאת, יודעת לספר דברים כמו "אנחנו נקריב את המלכה שלנו כדי לפתות את המלכה של היריב להכנס למשבצת מסוכנת". או "היינו רוצים שהרץ הזה לא יהיה כאן, ולכן אנחנו מנסים לסלק אותו כדי להגיע לשלב הבא".
המערכת יודעת לקצץ את העץ הענקי של המהלכים האפשריים במשחק, לברור את המעניינים יותר, ולהסביר אותם בצורה שהיא אינטואיטיבית לבני אנוש.
כשמסבירים לך באופן כזה מדוע המהלך שעשית לא היה מוצלח (זוכרים מאתמול? Counterfactuals), או מדוע מהלך אחר הוא רעיון מצויין, המכונה הופכת לכלי לימודי ממדרגה ראשונה. כאילו שיהיה לצידך רב אומן, מנטור סבלני וחסר אגו, שאף פעם לא מתייאש מהשטויות שאתה עושה, ותמיד יש לו רעיונות מעולים להציע.
אי אפשר להפריז בהערכת ההתקדמות שנעשה כשמכונות שלומדות לבד ידעו גם להסביר את עצמן באופן שהוא אינטואיטיבי לבני אנוש. תהיו בטוחים שיהיו להן הרבה דברים ללמד אותנו.
----
אם אתם משקיע הון סיכון, הכינו את ה Term Sheet, הטכנולוגיה כאן מרשימה מאוד. הייתי במקומכם מזמין את החבר'ה האלה לקפה כבר השבוע.
האתר שלהם (יש שם לינק לאתר של השחמט): https://decodea.ai/
No comments:
Post a Comment