מקרה מוות ראשון של הולך רגל כתוצאה מתאונה ע"י רכב אוטונומי [איחוד דיונים]

דוגמה: רכב אוטונומי נוסע ורכב אחר מתפרץ לכביש, בנתיב הנגדי יש הולך רגל.

האם הרכב מחליט לעשות תאונה או לעבור נתיב לדרוס את הולך הרגל ולא להגיע לתאונה קשה?

ומה עושה אדם במקרה כזה?

לפי "ידיעות אחרונות" היא כן חצתה במעבר חצייה.

 

מישהו כן יכול לעשות סדר בעניין?

היא לא הלכה ברגל.

היא רכבה על אופניים.

לגבי המוח האנושי - בהרבה תחומים אין לו תחליף. כנראה שבנהיגה הוא יזכה לסיוע ניכר, גם אם בשלב הנוכחי עדיין לא להחלפה. אבל את הפיזיקה של הבלימה לא ניתן לשנחת. מקסימום לא להשתמש בצמיגים סיניים.

איזו החלטה תתקבל זו כמובן שאלה מורכבת, אבל לדעתי די קלה לתכנות

מאוד קשה לתכנות. מאוד מאוד מאוד קשה לתכנות.

מה רכב אוטונומי אמור לתעדף במקרה של תאונה, פגיעה בנהגו או פגיעה במישהו אחר?

במקרה שהולך רגל קופץ לכביש ויש עמוד בצד אחד ומכונית בנתיב הנגדי, בצד השני, מה עושים?

ועם העמוד הוא מקרטון, מה אז?

ואם הוא עמוד מתח גבוה, אז מה?

ואם המכונית בצד השני היא משאית?

המוח שלנו, לא מושלם בקבלת ההחלטות האוטומטית שלו ככל שיהיה, מכיל כ"כ הרבה מידע ומשתנים, שאין סיכוי שמחשב ילמד אותם בעתיד הנראה לעין.

ועדיין, נהג אנושי יכול לקבל החלטה לא נכונה ולהתנגש במכונית ולא בעמוד קרטון, רק בגלל שע"י סיבוב שמאלה הוא, כביכול, מרחיק עצמו מפגיעה, ע"י זה שהוא שם את רוחב הרכב בינו ובין הפגיעה, לדוגמא.

מאוד קשה לתכנות. מאוד מאוד מאוד קשה לתכנות.

מה רכב אוטונומי אמור לתעדף במקרה של תאונה, פגיעה בנהגו או פגיעה במישהו אחר?

 

במקרה שהולך רגל קופץ לכביש ויש עמוד בצד אחד ומכונית בנתיב הנגדי, בצד השני, מה עושים?

ועם העמוד הוא מקרטון, מה אז?

ואם הוא עמוד מתח גבוה, אז מה?

ואם המכונית בצד השני היא משאית?

 

המוח שלנו, לא מושלם בקבלת ההחלטות האוטומטית שלו ככל שיהיה, מכיל כ"כ הרבה מידע ומשתנים, שאין סיכוי שמחשב ילמד אותם בעתיד הנראה לעין.

 

ועדיין, נהג אנושי יכול לקבל החלטה לא נכונה ולהתנגש במכונית ולא בעמוד קרטון, רק בגלל שע"י סיבוב שמאלה הוא, כביכול, מרחיק עצמו מפגיעה, ע"י זה שהוא שם את רוחב הרכב בינו ובין הפגיעה, לדוגמא.

הכוונה היתה שמהרגע שהרכב זיהה את כל האובייקטים האלו, הבין את אפשרויות התגובה שלו, את האובייקטים שיפגעו ואת חומרת הפגיעה בהם, הבחירה עצמה בתגובה היא יחסית פשוטה (פונקציה ש"מתמחרת" כל פגיעה אפשרית, נניח לפי כמות האנשים, עוצמת הפגיעה בהם ו"אשמתם", או כל משתנה אחר שתרצה). את התמחור הזה אפשר לשנות יחסית בקלות.

כמובן שלזהות את האובייקטים עצמם זו משימה מאוד מורכבת, אבל זה בערך הבסיס של נהיגה אוטונומית, בלי קשר לתאונה בלתי נמנעת.

ואם זה 3 זקנים לעומת ילד קטן?

האפשרויות הן רבות מאוד.

כל מה שאני מנסה להגיד זה שלהחליף פונקציית תמחור יהיה קל. האתיקה מאחורי פונקציה כזו זה כמובן עניין אחר לגמרי.

הכוונה היתה שמהרגע שהרכב זיהה את כל האובייקטים האלו, הבין את אפשרויות התגובה שלו, את האובייקטים שיפגעו ואת חומרת הפגיעה בהם, הבחירה עצמה בתגובה היא יחסית פשוטה (פונקציה ש"מתמחרת" כל פגיעה אפשרית, נניח לפי כמות האנשים, עוצמת הפגיעב בהם ו"אשמתם", או כל משתנה אחר שתרצה). את התמחור הזה אפשר לשנות יחסית בקלות.

 

כמובן שלזהות את האובייקטים עצמם זו משימה מאוד מורכבת, אבל זה בערך הבסיס של נהיגה אוטונומית, בלי קשר לתאונה בלתי נמנעת.

זה נכון. זיהוי אובייקטים זו בעיה קשה מאוד. בני אדם לא רואים את העולם כמורכב מאובייקטים, אלא מעצמים פונקציונאלים. תפוז הוא משהו שאתה יכול להרים ולאכול מהשולחן, אבל אם הוא נזרק אליך אתה מגיב אליו כאילו הוא כדור, לא כאוכל. הולך רגל על מדרכה הוא לא רלוונטי, עד לרגע שאתה מזהה, באופן לגמרי תת מודע, שהוא מאט צעדיו, ויודע שאולי עכשיו הוא מתכנן לרדת לכביש. ואם הוא מאט צעדיו ומטה ראשו לכיוון אחר, אתה אוטומטית מניח שהוא יילך לשם ולא לכביש.

איך תלמד מכונה לזהות ניואנסים כאלו מראש?

לזהות אובייקטים, זה קל (גם קשה, כי קשה להסביר למכונה היכן דברים מתחילים והיכן הם נגמרים, אבל מילא).

לזהות מה הם אומרים לגביך... בעיה.

לגבי ללמד מכונה "לתמחר", בכלל שאלה בלי תשובה. קודם כל, כי אף אחד לא ישב להגדיר קודם מה עדיף, לדרוס הולך רגל או לשמור על עצמך. השאלה היחידה היתה: מה מידת האחריות של כל אחד לתאונה, בהתחשב בכללי התנועה. ואם הולך הרגל הוא קשיש או אם עם תינוק בעגלה? איך מתמחרים את זה?

ולגבי עוצמת פגיעה, מה לגבי סיכוי החלמה של קשיש מול ילד?

של נהג עם מצב לבבי בעייתי לעומת הולך רגל?

מה שמזכיר לי את הבדיחה על ההוא ששאל את אשתו כשבא הביתה: תגידי, יש פינגווינים בגובה מטר ושבעים?

לא, היא עונה.

שיט.

אז עוד פעם דרסתי נזירה.

ומה עושה אדם במקרה כזה?

לאדם עדיין יש את היכולת להחליט שונה.

תימוך אביא לך כאן מהתחום הצבאי: מדוע יש איסור של האום שחתומות עליו רוב מדינות העולם על רובוטים חמושים?

אף מדינה לא רוצה תוצאות בסגנון "רובוקופ" שרובוט יהרוג אנשים ללא האבחנה "האנושית" ושלפעמים (גם אם טרגית) למשל לא לפגוע בילד (שהיו מקרים שהילד פגע/הרג) את החייל

מה לעשות, מחשב עדיין לא "אנושי" ולא בר החלטה מה יותר חשוב בעולם

לאדם עדיין יש את היכולת להחליט שונה.

תימוך אביא לך כאן מהתחום הצבאי: מדוע יש איסור של האום שחתומות עליו רוב מדינות העולם על רובוטים חמושים?

אף מדינה לא רוצה תוצאות בסגנון "רובוקופ" שרובוט יהרוג אנשים ללא האבחנה "האנושית" ושלפעמים (גם אם טרגית) למשל לא לפגוע בילד (שהיו מקרים שהילד פגע/הרג) את החייל

מה לעשות, מחשב עדיין לא "אנושי" ולא בר החלטה מה יותר חשוב בעולם

המקרה של ירי לא דומה. ירי מתבצע אחרי החלטה מודעת. פעולה במצב חירום במכונית מתבצעת אוטומטית, לא לפי מה "חשוב יותר בעולם". מה גם שאין תשובה מוחלטת לשאלה הזו.

המקרה של ירי לא דומה. ירי מתבצע אחרי החלטה מודעת. פעולה במצב חירום במכונית מתבצעת אוטומטית, לא לפי מה "חשוב יותר בעולם". מה גם שאין תשובה מוחלטת לשאלה הזו.

גם מכונית אמורה לפעול לפי תהליך.

זה שכרגע אין "תקן" עולמי לנושא ולכן כל יצרן מחליט אחרת זה זמני ואני מאמין שהדבר יוסדר בעתיד.

והדבר הנכון ביותר זה מה שכתבת והדגשתי באדום.

טמקא ושלוחותיו לא מצליחים להחליט:

https://www.ynet.co.il/articles/0,7340,L-5182661,00.html

ומצד שני:

https://www.calcalist.co.il/internet/articles/0,7340,L-3734495,00.html

או בקיצור, תבחר איזו כתבה שמתאימה לך. אנחנו נותנים את שתי הגישות.

המנוחה דחפה אופניים עמוסים בחפצים לכביש באזור חשוך, ועשתה זאת בפתאומיות מבלי לעצור ולהביט בכביש.

מניתוח מצלמת החזית ברכב עולה שלא ניתן היה פיזית לעצור את הרכב עקב הזמן הקצר בין הופעתה של הגברת, כנראה דרת רחוב, לבין הפגיעה עצמה.

ה"מוח" מאחורי הרכב האוטונומי עובד בטכנולוגיות של בינה מלאכותית מורכבת מרשתות נוירונים. בטכנולוגיות כאלה, יכולת ההגדרה של אלגוריתמים לוגים לקבלת ההחלטה המדוייקת היא לא באמת אפשרית. מה שניתן לעשות זה ללמד את האלגוריתם על ידי זה שנותנים לו פידבק אם הוא קיבל החלטה נכונה או לא (כמובן שכל התיאור כאן מאוד פשטני, אבל זה העיון מאחורי זה).

לכן להבנתי לא באמת יוכלו להגדיר התנהגויות שונות במדינות שונות ובכלל לא ניתן יהיה לקבל החלטות מראש אם חוקים ברורים.

במקסימום ניתן יהיה ללמוד מכל אירוע שכזה ולשקלל אותו בתוך האלגוריתם על מנת לקבל החלטות טובות יותר באירוע הבא.

יודע מה, אין לי מושג איך זה עובד, אבל אני מוכן לשים כסף שממש (אבל ממש) לא בצורה הזו, אפילו לא קרוב.

לא סביר שמוצר כזה לא מזהה אובייקטים ע"י חיישנים (מצלמה, ראדאר, ליידאר), ונותן להם מיקום ומהירות במרחב תלת מימדי. זה לא איזו לוגיקה עמומה של בינה מלאכותית שאנחנו לא יודעים איך היא עובדת, מאוד רחוק מזה.

ברגע שיש עצמים, מיקום, ווקטור מהירות ותאוצה, אפשר לקבל החלטה לאן להזיז את הרכב כדי לא לפגוע בשום דבר. בסיטואציה שכל פעולה מביאה לפגיעה, אתה יודע במה תפגע ובאיזו עוצמה (משוערך כמובן, אבל בקירוב סביר), ויכול לקבל החלטות מאוד מאוד קונקרטיות, כולל תמחור הפגיעות השונות האפשריות ותיעדופן.

דובי,

תבדיל בין מידול הסביבה, לבין אלגוריתם קבלת ההחלטה. אלו שני דברים נפרדים.

דווקא למידה ממוחשבת מאוד מתאימה למשימה מהסוג הזה, תדמיין שהכניסו מאות אלפי סיטואציות דומות בתור קלט עבור אלגוריתם למידה מבוקר, אם זה בוצע כמו שצריך סביר להניח כי האלגוריתם יתפקד טוב בכמה (וכמה) סדרי גודל מאשר הנהג הממוצע.

דווקא בגלל שיש כ״כ הרבה משתנים וכ״כ הרבה סיטואציות אפשריות, זו נשמעת כמו משימה לML. כמובן שהשאלה המרכזית היא איך אתה ממדל (/מתרגם?) את הסביבה כמו שצריך, ומאיפה אתה משיג את כל האינפוט המבוקר, אבל בשורה התחתונה - בתור הדיוט מוחלט - זה נשמע הגיוני להשתמש באלגוריתם לומד ולא ב׳סתם׳ אלגוריתם מוגדר מראש.

(אבל כאמור, הדיוט בתחום, אז ייתכן שכל הנ״ל בבל״ת אחד גדול)