![מה הבינה מבינה: הכל או שום דבר? [עושים טכנולוגיה] עושים טכנולוגיה מה הבינה מבינה: הכל או שום דבר? [עושים טכנולוגיה]](https://d3wo5wojvuv7l.cloudfront.net/t_rss_itunes_square_1400/images.spreaker.com/original/d91bf5947e72444d93211745da4df5cf.jpg)
מה הבינה מבינה: הכל או שום דבר? [עושים טכנולוגיה]
אודות הפרק
האם ניתן, האם צריך ללמד את מערכות בינה מלאכותית את מה המשמעות של מה שהן כותבות? על פניו נראה שהן יודעות על מה הן מדברות. אחרי הכל, אני קורא את התשובות של ChatGPT והבוט הזה מתנסח בצורה יפה וכותב משפטים נהדרים. סביר להניח שאם הוא כותב כאלו משפטים הוא מבין את המשפטים, לא? אז זהו, שכנראה שלא. אוקיי, אז מה, האם זה חשוב?
מצד אחד יש קבוצה גדולה של חוקרים שטוענים שללא פריצת דרך טכנולוגית המערכות האלו לעולם לא יבינו את המשמעות של מה שהן כותבות מה שאומר שלא נוכל לסמוך עליהן. איך אתה יכול לסמוך על מערכת שמייצרת טקסט שהיא עצמה לא מבינה את המשמעות שלו?
אבל בצד השני יש קבוצה אחרת של חוקרים שטוענת שכדי להפיק טקסט טוב, הגיוני ובעל משמעות, כדי לספק שירות מועיל ויעיל, כמו נניח השירות של ChatGPT, המערכות האלו לא צריכות להבין את המשמעות של המלים כמו שאנחנו מבינים אותן ושיכול להיות שהמודלים האלו גילו משהו שאנחנו עוד לא גילינו בנוגע לאיך שפה עובדת, מהי הבנה ואיך נוצרת משמעות.
כדי להסביר מדוע הסוגיה הזו כל כך מרתקת, דרמטית וחשובה נשתמש בסינים, בתמנונים וגם בכמה תוכים אקראיים.
קישורים:
מאמר "תוכים הסתברותיים"
https://dl.acm.org/doi/pdf/10.1145/3442188.3445922
אתה לא תוכי וצ'אטבוטים אינם אנושיים
https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html
עזרא קליין מראיין את גארי מרקוס
https://www.nytimes.com/2023/01/06/podcasts/transcript-ezra-klein-interviews-gary-marcus.html
המקרה המסקרן של אינטליגנציית השכל הישר
https://www.amacad.org/publication/curious-case-commonsense-intelligence
בינה מלאכותית ומגבלות השפה
https://www.noemamag.com/ai-and-the-limits-of-language/
בינה מלאכותית משתלטת על השפה. האם לסמוך עליה?
https://www.nytimes.com/2022/04/15/magazine/ai-language.html?referringSource=articleShare
איך ChatGPT עובדת? הטקסט של סטיבן וולפרם
https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/
מדוע מודלי השפה הגדולים לא יבינו שפה
https://jeremyhadfield.com/why-llms-will-not-understand-language
ההרצאה של יאן לקון באוניברסיטת NYU
https://www.youtube.com/watch?v=x10964w00zk
קישור לאתר הקריירה של חברת Indoor Robotics : https://www.indoor-robotics.com/careers/