ד"ר וואנג'ה וויזה מאוניברסיטת רוהר בוכום בוחנת את התנאים הדרושים לתודעה, ומציינת שלפחות אחד לא ניתן למצוא במחשבים. במאמר חדש הוא טוען שהבדלים במבנה הסיבתי בין מוחות למחשבים עשויים להיות רלוונטיים לתודעה ושמערכות בינה מלאכותית הנוכחיות אינן מודעות.
מאמר חדש חוקר את התנאים ההכרחיים לתודעה, מדגיש הבדלים מרכזיים בין מוחות למחשבים, במיוחד במבנים סיבתיים, ומציע שחוויה מודעת אמיתית עשויה לדרוש יותר מסתם סימולציה.
במאמר חדש, Wanja Wiese בוחנת אילו תנאים חייבים להתקיים כדי שהתודעה תתקיים. לפחות אחד מהם לא נמצא במחשב.
האם זה יהיה רצוי עבור בינה מלאכותית לפתח תודעה? לא ממש, מסיבות שונות, לדברי ד"ר וואנג'ה וויזה מהמכון לפילוסופיה II באוניברסיטת רוהר בוכום, גרמניה. בחיבור הוא בוחן את התנאים שצריכים להתקיים כדי להתקיים התודעה ומשווה בין מוחות למחשבים. הוא זיהה הבדלים משמעותיים בין בני אדם למכונות, בעיקר בארגון אזורי המוח וכן ביחידות זיכרון ומחשוב. "המבנה הסיבתי עשוי להיות הבדל שרלוונטי לתודעה", הוא טוען. החיבור פורסם ב-26 ביוני 2024 בכתב העת מחקרים פילוסופיים.
שתי גישות שונות
כאשר בוחנים את האפשרות של תודעה במערכות מלאכותיות, קיימות לפחות שתי גישות שונות. גישה אחת שואלת: מה הסיכוי שמערכות הבינה המלאכותית הנוכחיות הן מודעות – ומה צריך להוסיף למערכות קיימות כדי להגדיל את הסיכוי שהן מסוגלות להכרה? גישה אחרת שואלת: אילו סוגי מערכות בינה מלאכותית לא צפויות להיות מודעות, וכיצד נוכל לשלול את האפשרות שסוגים מסוימים של מערכות יהפכו למודעות?
Wanja Wiese מחפש הבדלים בין מחשבים ומוחות. קרדיט: RUB, Marquard
במחקרו נוקט וואנג'ה וייס בגישה השנייה. "המטרה שלי היא לתרום לשתי מטרות: ראשית, להפחית את הסיכון ליצירת תודעה מלאכותית בשוגג; זו תוצאה רצויה, מכיוון שכרגע לא ברור באילו תנאים יצירת תודעה מלאכותית מותרת מבחינה מוסרית. שנית, גישה זו אמורה לעזור לשלול הונאה על ידי מערכות AI מודעות לכאורה, שנראות רק כמודעות", הוא מסביר. זה חשוב במיוחד מכיוון שכבר יש אינדיקציות לכך שאנשים רבים שלעתים קרובות מקיימים אינטראקציה עם צ'אטבוטים מייחסים תודעה למערכות אלו. יחד עם זאת, הקונצנזוס בין המומחים הוא שמערכות ה-AI הנוכחיות אינן מודעות.
עקרון האנרגיה החופשית
וייס שואל במאמרו: כיצד נוכל לברר האם קיימים תנאים חיוניים לתודעה שאינם מתקיימים על ידי מחשבים קונבנציונליים, למשל? מאפיין משותף המשותף לכל בעלי החיים המודעים הוא שהם חיים. עם זאת, להיות בחיים היא דרישה כה נוקשה עד שרבים אינם רואים בכך מועמד סביר לתנאי הכרחי לתודעה. אבל אולי כמה תנאים הכרחיים כדי להיות בחיים נחוצים גם לתודעה?
במאמרו מתייחס וואנג'ה וויזה לעקרון האנרגיה החופשית של מדען המוח הבריטי קארל פריסטון. העיקרון מצביע על כך: ניתן לתאר את התהליכים המבטיחים את המשך קיומה של מערכת מארגנת עצמית כמו אורגניזם חי כסוג של עיבוד מידע. בבני אדם, אלה כוללים תהליכים המווסתים פרמטרים חיוניים כמו טמפרטורת הגוף, תכולת החמצן בדם וסוכר בדם. אותו סוג של עיבוד מידע יכול להתממש גם במחשב. עם זאת, המחשב לא מווסת את הטמפרטורה או את רמות הסוכר בדם, אלא רק ידמה תהליכים אלה.
רוב ההבדלים אינם רלוונטיים לתודעה
החוקר מציע שאותו דבר יכול להיות נכון לגבי התודעה. בהנחה שהתודעה תורמת להישרדותו של אורגניזם מודע, אזי, לפי עקרון האנרגיה החופשית, התהליכים הפיזיולוגיים התורמים לתחזוקת האורגניזם חייבים לשמור על עקבות שהחוויה המודעת משאירה אחריה ושניתן לתאר אותה כמידע- תהליך עיבוד. זה יכול להיקרא "המתאם החישובי של התודעה". גם את זה אפשר לממש במחשב. עם זאת, ייתכן שיש למלא תנאים נוספים במחשב כדי שהמחשב לא רק ידמה אלא גם ישכפל חוויה מודעת.
במאמרו, וואנג'ה וויזה מנתח אפוא הבדלים בין האופן שבו יצורים מודעים מבינים את המתאם החישובי של התודעה לבין האופן שבו מחשב יממש זאת בסימולציה. הוא טוען שרוב ההבדלים הללו אינם רלוונטיים לתודעה. לדוגמה, בניגוד למחשב אלקטרוני, המוח שלנו חסכוני מאוד באנרגיה. אבל לא סביר שזוהי דרישה לתודעה.
הבדל נוסף, לעומת זאת, טמון במבנה הסיבתי של מחשבים ומוחות: במחשב קונבנציונלי, יש תמיד לטעון נתונים מהזיכרון, לאחר מכן לעבד אותם ביחידת העיבוד המרכזית, ולבסוף לאחסן שוב בזיכרון. אין הפרדה כזו במוח, מה שאומר שהקישוריות הסיבתית של אזורים שונים במוח לובשת צורה אחרת. Wanja Wiese טוען שזה יכול להיות הבדל בין מוחות למחשבים רגילים שרלוונטי לתודעה.
"לפי שאני רואה את זה, הפרספקטיבה שמציע עקרון האנרגיה החופשית מעניינת במיוחד, מכיוון שהיא מאפשרת לנו לתאר מאפיינים של יצורים חיים מודעים בצורה כזו שניתן לממש אותם במערכות מלאכותיות באופן עקרוני, אך אינן נוכחות ב כיתות גדולות של מערכות מלאכותיות (כגון הדמיות ממוחשבות)", מסביר וואנג'ה וייס. "משמעות הדבר היא שניתן לתפוס את התנאים המוקדמים לתודעה במערכות מלאכותיות בצורה מפורטת ומדויקת יותר."
