בחלק השני של סדרת ספרי הכרוניקה של אמבר (החל מהספר "קלפים של כליה" משנת 1985) של רוג'ר זילאזני, אחד מיוצרי הפנטזיה והמדע הבדיוני הדגולים, מפתח הגיבור מערכת בינה מלאכותית בעלת יכולת לימוד עצמית, אשר בשלב מסוים גם מפתחת תודעה עצמית, ויכולת מרשימה להגן על עצמה מפני ניסיונותיו של הגיבור לכבות אותה. בעוד הדיאלוגים עם מערכת הבינה המלאכותית של רוג'ר זילאזני משעשעים וכתובים היטב, הסרט "שליחות קטלנית" בכיכובו של ארנולד שוורצנגר, שיצא לאקרנים שנה קודם לכן, עוסק דווקא בעתיד אפוקליפטי בו בינה מלאכותית משתלטת על העולם עם מעט פחות חיוכים.
כ-25 שנה לאחר מכן יצאה לעולם מערכת צ'אט GPT, מערכת אינטרנטית מבית OPEN AI - מנגנון התכתבות ממוחשב אשר מקבל הנחיה, ובתמורה משגר תגובה מפורטת המבוססת על כמויות מידע אדירות ברשת יחד עם יכולת "לייצר" מידע חדש. המערכת מעלה שאלות רבות, אתיות וחוקיות, לגבי טיב המידע אשר המערכת מספקת, גניבה ספרותית, וחשש ליצירת מידע לא מבוסס במסגרת הסקת מסקנות המבוססת על מידע חלקי בלבד.
נושא זה קיבל ביטוי ביוני, 2023, בטיוטת חקיקה של הפרלמנט של האיחוד האירופי המסדירה את נושא השימוש בבינה המלאכותית ואשר חלה הן על מערכות שלטוניות והן על חברות מסחריות. החקיקה מחלקת את השימוש בבינה מלאכותית לשלוש דרגות סיכון: סיכון בלתי מקובל, סיכון גבוה וסיכון מוגבל. סיכון בלתי מקובל הוא מערכות שעשויות להשפיע על התנהגות אנושית, למשל משחקים שעשויים לעודד התנהגות מסוכנת בילדים או דירוג חברתי על בסיס התנהגות, מצב סוציו-אקונומי או תכונות אישיות. מערכות אלה אסורות לשימוש. סיכון גבוה מוגדר כמערכות ביומטריות, אכיפת חוק, ותשתיות קריטיות – מערכות אלה מחויבות ברישוי מטעם הרגולטור האירופי. מערכות אחרות מוגדרות כסיכון מוגבל וכאן נדרשת עמידה בתקנים שיוודאו שקיפות ואפשרות למשתמשי המערכות לקבל החלטה מושכלת.
כדי לנסות ולמנוע שימוש במידע שמיוצר על ידי בינה מלאכותית להפצת מידע כוזב או שיכתוב של מידע אמיתי למידע לא מדויק, החוק החדש מתייחס למערכות כדוגמת צ'אט GPT כקטגוריה נפרדת המוגדרת כבינה מלאכותית יצרנית. במערכות כאלו נדרש: הערת אזהרה לפיה המידע יוצר במערכת בינה מלאכותית, דרישות מערכת שימנעו ייצור מידע שקרי, ודרישות נוספות. החלק המורכב יותר בחקיקה אינו דווקא החלתה על חברות העוסקות בפיתוח בינה מלאכותית יצרנית אלא דווקא על חברות המשתמשות במוצרים כאלה (של יצרנים אחרים) לשיווק ותפעול של המערכות שלהן. לפי החקיקה החדשה גם לשם כך קיים צורך ברישוי מוסדר מטעם הרגולטור במדינת היעד באיחוד האירופי.
כך, למשל, מוסדות פיננסים המשתמשים בבינה מלאכותית לקטלוג לקוחות תחת קבוצות סיכון, חברות איסוף המעבדות את המידע שנאסף באמצעות בינה מלאכותית ואפילו חברות ביוטק שמנסות לחזות מחלות או להתריע באמצעות בינה מלאכותית על הידרדרות רפואית - כל אלה נדרשות בעמידה בתקינה האירופאית אם הן פועלות באירופה או מאפשרות כניסה למערכות שלהם מאירופה. לכן, כל חברה כזו חשוב שתקבל ייעוץ משפטי מתאים ממשרד עורכי דין בעל התמחות בחקיקה האירופאית בכלל ובתחום הטכנולוגיה בפרט.