دانش‌آموزان، والدین و معلمان درباره هوش مصنوعی چه باید بدانند؟

در سال ۲۰۱۱، قاضی پیشین، کی فیرث-باترفیلد، شروع به تفکر در مورد چگونگی زندگی و کار انسان‌ها در کنار هوش مصنوعی (AI) کرد. او به عنوان پژوهشگر ارشد در دانشگاه تگزاس، در حال بررسی کاربرد و حاکمیت فناوری‌های هوش مصنوعی است. او در سال ۲۰۱۴ به عنوان اولین مسئول اخلاق هوش مصنوعی در جهان (در شرکت Lucid Holdings LLC) منصوب شد و به عنوان یکی از کارشناسان برتر در زمینه استفاده مسئولانه از هوش مصنوعی شناخته می‌شود. بیش از پنج سال، او در مجمع جهانی اقتصاد مسئولیت تیم‌های هوش مصنوعی و یادگیری ماشین را بر عهده داشت و ماموریتش راهنمایی کشورها و شرکت‌ها به سمت استفاده مسئولانه از این فناوری‌های نوین بود. همچنین، وی در یک شورای مشورتی دولت آمریکا و سازمان یونسکو عضو است.

امروزه، او به عنوان مدیرعامل شرکت Good Tech Advisory فعالیت می‌کند؛ شرکتی که با دولت‌ها، مؤسسات خیریه، شرکت‌ها و دانشگاه‌ها همکاری می‌کند تا استفاده مسئولانه و مولد از هوش مصنوعی را در عین رعایت مقررات قانونی اجرایی کند. وی به عنوان یکی از زنان برجسته در حوزه حاکمیت هوش مصنوعی شناخته شده و در فوریه امسال جایزه TIME100 Impact Award را دریافت کرد.

او در مصاحبه‌ای با BOLD در مورد چالش‌های پیش روی مدارس و دانشگاه‌ها، دانش‌آموزان و معلمان در مواجهه با پیشرفت هوش مصنوعی صحبت کرد.

آیا استفاده از هوش مصنوعی در آموزش اجتناب‌ناپذیر است؟

کی فیرث-باترفیلد:
بله – اکنون نمی‌توانیم از آن دوری کنیم. دانش‌آموزان از هوش مصنوعی برای انجام تکالیف خود استفاده خواهند کرد. باید تمرکز ما بر روی ایجاد ایمنی در استفاده از آن باشد تا اینکه به کلی آن را ممنوع کنیم. هوش مصنوعی مولد دسترسی به اطلاعات موجود در اینترنت را آسان‌تر می‌کند؛ به طوری که با بهبود روزافزون آن، عملاً به عنوان یک مغز همراه در کنار ما حضور پیدا می‌کند. اما اهمیت درست استفاده از آن حیاتی است – کودکان ما باید برای زندگی و کار در کنار هوش مصنوعی آموزش ببینند. انسان‌ها باید کنترل اصلی را در دست داشته باشند. مدل‌های زبانی بزرگ اغلب حاوی سوگیری‌های زیادی هستند؛ بنابراین ضروری است که کاربران آموزش ببینند تا دریابند ماشین چه کارهایی می‌تواند برای ما انجام دهد و چه محدودیت‌هایی دارد.

خطرات هوش مصنوعی برای کودکان

کی فیرث-باترفیلد:
یکی از دغدغه‌های من این است که کودکان قبل از هفت سالگی باورها، ارزش‌ها و نگرش‌های خود را شکل می‌دهند؛ بنابراین لازم است سیاست‌هایی دقیق برای سال‌های اولیه کودکی در نظر بگیریم.

باید تأثیر اسباب‌بازی‌های آموزشی که به کودکان می‌دهیم را به دقت بررسی کنیم. کامپیوترها به احتمال زیاد توانایی تأثیرگذاری، رهبری و دستکاری رفتار را از انسان‌ها دارند. همچنین باید بدانیم داده‌های کودکان کجا ذخیره می‌شود، آیا دستگاه‌ها قابلیت هک شدن دارند و آیا امکان شناسایی کودکان وجود دارد؟

برای مثال، اکثر اسباب‌بازی‌های هوشمند برای کودکان – مانند عروسک‌های هوشمند – در چین تولید می‌شوند. اگر بخواهید اسباب‌بازی متصل بتواند با کودکان «گفتگو» کند، لازم است که داده‌های تعاملات جمع‌آوری شوند. سوال اینجاست که این اطلاعات در کجا ذخیره شده و آیا امن هستند؟ چون اطلاعات دقیقی از این موضوع نداریم، مسائل مربوط به حفظ حریم خصوصی داده‌ها بسیار مطرح می‌شود.

همچنین باید درباره اینکه تا چه حد آماده هستیم اجازه دهیم فناوری از مراقبت از کودکان بر عهده بگیرد، گفتگو کنیم. تصور کنید یک عروسک هوشمند به بهترین دوست کودک تبدیل شود، اما سپس «از کار بیفتد»؛ واکنش کودک چگونه خواهد بود؟ آیا چنین «مرگی» برای کودک سخت‌تر از شکستن یک عروسک عادی خواهد بود؟ آیا تعامل با ماشین‌ها آمادگی لازم برای آینده را فراهم می‌آورد؟ هنوز پاسخ این سوال‌ها مشخص نیست، اما ما در حال آزمایش این شرایط بر روی آسیب‌پذیرترین افراد جامعه، یعنی کودکان هستیم. این مسئله نیاز به آموزش گسترده درباره هوش مصنوعی را برای والدین به وجود می‌آورد تا بتوانند تصمیمات آگاهانه‌ای درباره اسباب‌بازی‌ها و ابزارهای مورد استفاده فرزندانشان بگیرند.

هوش مصنوعی و کودکان بزرگ‌تر

کی فیرث-باترفیلد:
هوش مصنوعی باید در تمام سطوح آموزشی مد نظر قرار گیرد. ما در حال آماده‌سازی کودکان برای آینده و حتی چندین مسیر شغلی مختلف هستیم. آن‌ها باید مجهز شوند تا از فناوری‌های در حال تغییر بهترین بهره را ببرند. همچنین، آموزش درباره هوش مصنوعی برای همه ضروری است تا بتوانیم به بحث درباره آینده‌ای که برای فرزندان و نوه‌هایمان می‌خواهیم، به طور جدی بپردازیم.

چرا آموزش هوش مصنوعی مهم است؟

کی فیرث-باترفیلد:
یکی از بزرگ‌ترین مشکلات این است که قابلیت‌های هوش مصنوعی از درک عموم فراتر رفته است. وقتی در حوزه‌های مختلفی مانند آموزش، بیمارستان‌ها یا حتی سیستم‌های رأی‌گیری استفاده می‌شود، مردم نمی‌دانند چه اتفاقی در حال وقوع است. به همین دلیل ضروری است که همه – به‌ویژه معلمان – آموزش ببینند. معلمان به شدت نیازمند آموزش و پشتیبانی هستند. همچنین، با افزایش بی‌اعتمادی نسبت به هوش مصنوعی، آموزش می‌تواند به مردم نشان دهد که چه مواردی را باید زیر نظر داشته باشند و از چه مواردی می‌توانند با اطمینان استفاده کنند.

اجزای اساسی یک سیاست مسئولانه هوش مصنوعی در مدارس

کی فیرث-باترفیلد:
اولین قدم، آموزش دانش‌آموزان برای درک تعامل با مدل‌های هوش مصنوعی مولد است. مدارس باید از خود بپرسند: آیا هوش مصنوعی به افزایش دانش شما کمک می‌کند یا فقط شما را تنبل‌تر می‌کند؟ اگر قرار است کودکان درباره هوش مصنوعی چیزی یاد بگیرند، باید یاد بگیرند چگونه از آن به درستی استفاده کنند.

مهم است که کودکان بدانند برخی از این ابزارها می‌توانند هک شوند. مدارس باید با ایجاد چارچوب‌های حفاظتی، به‌ویژه در زمینه داده و حریم خصوصی، از دانش‌آموزان محافظت کنند.

موارد مهم دیگری درباره اخلاق، حریم خصوصی و امنیت در هوش مصنوعی

در سال ۲۰۲۳، مهندسان سامسونگ در کره جنوبی کدی حساس را در ChatGPT آپلود کردند که منجر به ممنوعیت استفاده از هوش مصنوعی مولد در دستگاه‌ها و شبکه‌های داخلی شرکت شد. همچنین برخی بانک‌های آمریکا نیز استفاده از این فناوری را محدود کردند. هر مدل مولدی که از اینترنت آموزش ببیند، از داده‌های بارگذاری‌شده در اینترنت استفاده می‌کند.

دانش‌آموزان باید از احتمال دریافت اطلاعات نادرست ناشی از «توهمات» (وقتی مدل‌های زبانی پیش‌بینی‌های اشتباه می‌کنند) و «هم‌خورده شدن» (یعنی وقتی هوش مصنوعی از داده‌های تولیدشده توسط خود آن یاد می‌گیرد و حلقه بازخورد ضعیفی ایجاد می‌کند) آگاه باشند.

والدین نیز باید درک کنند که هوش مصنوعی چگونه به کار گرفته می‌شود؛ اما تصمیم نهایی درباره استفاده از هوش مصنوعی باید با مدارس اتخاذ شود، نه والدین که نباید در تعیین محتوا دخالت کنند. در آمریکا، برخی مدارس کتاب‌های خاصی را ممنوع کرده‌اند که این موضوع باعث نگرانی معلمان شده است.

همچنین باید بدانند که هوش مصنوعی می‌تواند به عنوان ابزاری برای آزار و اذیت مورد استفاده قرار گیرد؛ برای مثال، استفاده از هوش مصنوعی مولد برای ایجاد تصاویر عمیق جعلی و فحاشانه از دانش‌آموزان. نظارت بر این موضوع بار اضافی بر دوش مدارس می‌گذارد.

نگاه به آینده: آیا آینده‌ای روشن در پیش است؟

کی فیرث-باترفیلد:
من به قدرت هوش مصنوعی برای انجام کارهای خیرخواهانه باور دارم. اگر قصد اصلاح و بهبود آن را نداشتم، در این مسیر فعالیت نمی‌کردم. بسیار خوشبین هستم که با نصب چارچوب‌های حفاظتی مناسب و درک اینکه هوش مصنوعی یک عصای جادویی نیست که همه چیز را آسان‌تر کند، پتانسیل بزرگی برای ایجاد تغییرات مثبت در زندگی انسان‌ها وجود دارد. اما نیازمند تفکر نوآورانه درباره آموزش برای فردا هستیم.

تأثیر هوش مصنوعی بر نقش معلمان و نیازهای آن‌ها

کی فیرث-باترفیلد:
معلمان به کمک، پشتیبانی و آموزش فوری نیاز دارند.

دانش‌آموزان از هوش مصنوعی استفاده خواهند کرد و ممنوعیت آن راه حل مناسبی نیست. سال‌هاست درباره کلاس‌های معکوس صحبت می‌شود؛ به جای تدریس محتوا، معلمان می‌توانند زمان آموزش را صرف به چالش کشیدن دانش‌آموزان و تشویق به تفکر انتقادی کنند. اگر امتحان‌های دانش‌آموزان را به راحتی با کمک هوش مصنوعی ارزیابی نکنیم، دیگر به آن‌ها آموزش واقعی نمی‌دهیم.

یکی از امیدهای بزرگ من این است که هوش مصنوعی بتواند در حوزه آموزش کمک‌کننده باشد. در حال حاضر ابزارهایی برای ارزیابی (نمره‌دهی) در دروس علمی و ریاضی وجود دارد و احتمالاً می‌توان مدل‌های مولد را برای ارزیابی دروس انسانی نیز به کار برد؛ اگرچه قانون هوش مصنوعی اتحادیه اروپا استفاده از هوش مصنوعی برای نمره‌دهی را بسیار پرخطر می‌داند. امیدوارم هوش مصنوعی بتواند در انجام وظایف اداری و کارهای تکراری معلمان نیز یاری رساند، تا زمان بیشتری برای تعامل مستقیم با دانش‌آموزان باقی بماند. این موضوع در کشورهایی مانند بریتانیا اهمیت دارد و حتی در مناطق جهان مانند جنوب جهانی، جایی که معلمان ممکن است مسئول تدریس کلاس‌هایی با ۶۰ دانش‌آموز با سنین و توانایی‌های متفاوت باشند، از اهمیت ویژه‌ای برخوردار است.

همچنین نیازمند تغییر کامل در نگرش به آموزش و یادگیری هستیم؛ کودکان باید یاد بگیرند که چگونه به صورت انتقادی به تحلیل اطلاعات بپردازند. در عصر تصاویر دستکاری‌شده و اطلاعات نادرست، نباید آموزش صرفاً به خاطر به خاطر سپردن مطالب باشد، بلکه باید ابزارهایی برای پرسش و بررسی فراهم شود.

وضعیت فعلی مدارس و دانشگاه‌ها در استفاده از هوش مصنوعی

کی فیرث-باترفیلد:
بیشتر دانشگاه‌ها از پیش سیاست‌های هوش مصنوعی خود را اجرا کرده‌اند. دانشجویان از هوش مصنوعی استفاده می‌کنند و اساتید در حال یادگیری روش‌های تدریس در دنیای هوش مصنوعی هستند. اما دانشگاه‌ها به دلیل آزادی علمی بیشتر، در این زمینه راحت‌تر عمل می‌کنند. با پیشرفت ماشین‌ها، آنچه انسان‌ها را متمایز می‌کند اهمیت بیشتری پیدا می‌کند؛ از این رو تمرکز بر علوم انسانی، به‌ویژه برای افرادی که در حال ایجاد هوش مصنوعی هستند، ضروری است.

آیا دغدغه‌ای بیش از حد است؟

کی فیرث-باترفیلد:
خیر – فکر می‌کنم باید از حالا دغدغه‌های لازم را جدی بگیریم، زیرا در حال اتخاذ تصمیمات بنیادی هستیم: در چه سنی به فرزندانمان اجازه بدهیم از اسباب‌بازی‌های هوشمند استفاده کنند؟ نقش آن‌ها در فرآیند اجتماعی شدن چیست؟ چگونه هوش مصنوعی و انسان‌ها در آینده با یکدیگر همکاری خواهند کرد؟ آیا این همان آینده‌ای است که می‌خواهیم؟ درک واقعی از آنچه انسان‌ها از هوش مصنوعی می‌خواهند، شاید از نگرانی در مورد تبدیل شدن آن به موجودی فوق هوشمند مهم‌تر باشد. ما باید در مورد میزان تسلط هوش مصنوعی بر آینده و چگونگی مالکیت آن توسط ما فکر کنیم. آموزش نقطه شروع این گفت‌وگو است و گفت‌وگوهایی که از حالا آغاز شود، آینده را رقم خواهد زد.

کی فیرث-باترفیلد مدیرعامل شرکت Good Tech Advisory است که با دولت، مؤسسات خیریه، شرکت‌ها و دانشگاه‌ها همکاری می‌کند تا استفاده مسئولانه و مولد از هوش مصنوعی را در عین رعایت قوانین اجرایی کند. او به عنوان یکی از زنان پیشرو در حوزه حاکمیت هوش مصنوعی شناخته می‌شود و در فوریه امسال جایزه TIME100 Impact Award را دریافت کرده است.

منبع : +