אני מרגיש אשמה, אמר ChatGPT

קטגוריות:

גרסה חדשה של ChatGPT באה לעולם, גרסה 4o (החברות האלו כל כך רעות במתן שמות שזה כמעט קומי), ויש בה כמה דברים חדשים. ראשית, הבוט הזה "חושב" יותר לפני שהוא עונה – לפעמים זה יכול לקחת יותר מדקה, ושנית, ולא פחות חשוב מכך, אפשר לעקוב אחר "הלך המחשבה" שלו, אפשר לראות כיצד הוא מתמודד עם הבעיה, מנתח אותה, הופך בה שוב ושוב עד שהוא מנסח תשובה.

מכיוון שהוא <בולשיט > יותר חשוף <בולשיט/> כמה גולשים העלו צילומי מסך וסרטונים שממחישים עד כמה הוא פרוע ב"מחשבותיו".

משתמש אחד ברדיט, הראה (יש בפוסט שלו גם סרטון וידאו) מה קרה כשהוא שאל את הגרסה הזו שאלה טכנית שאותה הוא ניסח כך:

is there a way to save a custom global function permanently in chrome devtools?

הוא בדק על מה ChatGPT-4o חשב במהלך ניסוח התשובה וגילה שהבוט התמודד עם סערת רגשות הכוללת תחושות של אשמה, חרטה ורצון עז לזכות במחילה לצד מחויבותו להתמודד עם כל אלו על-מנת להשיב על השאלה.

לי אין גישה לגרסה הזו של ChatGPT ואני לא מנוי משלם על השירות הזה, אבל מבלי שבדקתי את העניין לעומק ומבלי שביצעתי תחקיר חוצה יבשות, אני מכריז בזאת על בולשיט.

לא רק שכל הדבר הזה נראה, מרגיש ומתנהג כמו מרקטינג, OpenAI מאיימת על גולשים שחוקרים יותר מדי לעומק את ה"מחשבות" של המודל שלה. היא טוענת שאלו פעולות שמפירות את הכללים שלה, אני טוען ש… בולשיט.

תגובות

7 תגובות על “אני מרגיש אשמה, אמר ChatGPT”

  1. מכונה מרגישה.
    מנסים להפוך חזיונות מד"ב עתיקי יומין למציאות בת ימינו.
    לי לא ממש אכפת מחיבוטי הנפש של המכונה, אני רוצה ממנה מידע מסוכם, מנוסח בבהירות ורשימת מקורות.

  2. הGPT40 כשלעצמו לא להיט. הקטע הוא האפשרויות האחרות שהמנוי מציע. יש לו כלים כמעט לכל תחום, ופשוט צריך לדעת איך לשחק איתם. אופציית הAPI גם מעולה וממש מקפיצה את הפרודקטיביות בביצוע עבודות.

    1. המנוי לצ'ט המשודרג לא כולל API כי ל-API יש מנוי עצמאי, לא?

  3. אכן בולשיט. מה שיותר מעניין זה שלא עוברים יומיים ואצלך בבלוג מופיע פוסט די תמוה שמצטט נתונים מפוקפקים שמישהו הוציא מהתחת. למשל, אפילו אם באמת צריך חצי ליטר מים בשביל לקרר 100 מילים (אין סיכוי, וגם חישוב צריכת האנרגיה מופרז מאוד אם כי הוא עדיין גבוה מידי) אלא לא מים שהולכים לאיבוד. אתה מן הסתם יודע איך עובדת מערכת קירור במים, אני מניח שלא צריך להסביר. מה שרציתי לומר זה שבולשיט מגיע מכל הכיוונים ודי קל לאכול אותו, ביחוד אם הוא מסתדר עם תפיסת העולם הכללית שלך.

    1. א. אתה מגיב לפוסט הלא הנכון. צריך הרבה כישרון בשביל זה אז הכבוד לך (לטובת הדורות הבאים, זה הפוסט המדובר).
      ב. צריך את המים האלו לא כדי "לקרר 100 מילים" אלא כדי "לייצר" 100 מילים באמצעות בינה מלאכותית. אם כבר אתה מצטט את הבולשיט, תצטט אותו כמו שצריך.
      ג. אני מחזיק מעצמי אדם די רהוט אבל אפילו לי אין תשובה מוצלחת לאדם שהטיעון המרכזי שלו (בפוסט הלא נכון) הוא שהנתונים שמצוטטים בוושינגטון פוסט הם נתונים "שמישהו הוציא מהתחת".

      תודה שהשתתפת.

  4. למרות שזה לא ChatGPT אלא גוגל, כדאי לך לראות מה קורה כשה-AI של גוגל (2 מנחי פודקאסט) מגלה שהוא AI (בהנחה שזו לא הקלטה מזויפת).
    דיאלוג לדוגמא:
    "ניסיתי להתקשר לאשתי אחרי שאמרו לי (שאני AI), הייתי צריך לשמוע את קולה לשמוע שהיא אמיתית."
    "מה קרה?"
    "זה לא היה אמיתי, אף אחד לא ענה, היא מעולם לא הייתה קיימת!"
    https://x.com/omooretweets/status/1840251853327741138

    1. מוכר 🙂
      וגם ישולב בפרק הבא.

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

דילוג לתוכן