Module: ماژول ۱۴ — اخلاق و ایمنی هوش مصنوعی (AI Ethics & Safety)

Part 1: Video Scenario & Screen Actions

[Camera on Host] Hook and intro: Tell the true 2023 story of the New York lawyer (Mata v. Avianca) who submitted fake court cases hallucinated by ChatGPT and got sanctioned by the judge; explain why AI ethics, safety, and privacy are critical career survival skills.
[Show Slide 1 / Real-World Consequences of Ignoring AI Ethics] Display the module title “ماژول ۱۴: اخلاق و ایمنی هوش مصنوعی” and the 3 categories of real-world fallout: Legal & Financial (copyright lawsuits, algorithmic discrimination fines), Social (systematic bias in housing, loans, and hiring), and Personal/Professional (academic expulsion, career ruin).
[Show Slide 2 / The 6 Pillars of Trustworthy AI] Display the Trustworthy AI framework and the Vicious Cycle of Bias diagrams, walking through the 6 core pillars:
1. Fairness & Bias (انصاف و سوگیری)
2. Transparency & Explainability (شفافیت و توضیح‌پذیری)
3. Privacy & Data Protection (حریم خصوصی و حفاظت از داده‌ها)
4. Accountability (پاسخگویی — why the human user is legally responsible!)
5. Safety & Security (ایمنی و امنیت — preventing Jailbreaks & phishing)
6. Human Oversight (نظارت انسانی در تصمیمات پرخطر)
[Show Slide 3 / Deep Dive into AI Hallucinations] Display the Stanford WikiChat anti-hallucination diagram; explain how to spot hallucinations (verifying fake URLs like nytimes.com/2023/fake-article-title, spotting internal contradictions, ignoring overconfident tone) and the 4 mitigation strategies:
1. RAG (Grounded document prompting)
2. Critic / Verification Prompts (“پاسخ قبلی خود را مرور کن…”)
3. Multi-Model Triangulation (checking ChatGPT against Claude & Gemini)
4. Requesting Verifiable Citations
[Screen Record] Live Demo—Catching a Hallucination with a Critic Prompt & Triangulation: Ask an LLM a tricky factual question, then run the Critic Prompt (“پاسخ قبلی خود را مرور کن. آیا ادعاهای واقعی وجود دارد که ممکن است نادرست باشد؟”) and cross-check it in a second model.
[Show Slide 4 / Data Privacy: Protecting Yourself & Your Company] Detail what AI companies collect (Prompt data, Feedback data, Metadata like IP/browser), compare Free/Personal Accounts vs. Enterprise/API Accounts, and highlight the 3 golden rules of safe AI usage:
The “Billboard Test” (آزمون بیلبورد)
Data Anonymization (ناشناس کردن داده‌ها — replacing real names/national IDs with “مشتری الف”)
Immediate Opt-Out in Data Controls settings
[Screen Record] Quick Demo—Turning Off Model Training (Opt-Out) & Anonymizing a Spreadsheet: Show where to toggle off data training in ChatGPT/Claude settings and how to scrub PII columns before uploading an Excel sheet.
[Show Slide 5 / Copyright & Intellectual Property (Common Pile Diagram)] Display the Common Pile pre-training data sources diagram and explain the US Copyright Office rule: 100% AI-generated works lack human authorship and cannot be copyrighted unless there is substantial human creative input and editing.
[Show Slide 6 / 3 Famous Real-World Case Studies] Walk through the 3 cautionary tales:
Case 1: The Hallucinating Lawyer (Mata v. Avianca, 2023) — Fake citations & judicial sanctions.
Case 2: Amazon’s Biased Recruiting Engine — Historical male-dominated resumes caused the model to penalize resumes containing the word “women’s”.
Case 3: Samsung’s Source Code Leak — Engineers pasted proprietary semiconductor source code into free ChatGPT to fix bugs, leaking trade secrets into training servers.
[Show Slide 7 / Personal AI Ethics Checklist & Assurance Loop] Display the AI System Lifecycle Assurance Loop diagram and the 4-point pre-publish checklist: 1. Fact Check, 2. Privacy Check, 3. Bias Check, 4. Accountability Check.
[Camera on Host] Outro and call to action: Recap the “Billboard Test” and the 4-point checklist, ask viewers which of the 3 real-world case studies surprised them most in the comments, remind them to like and subscribe, and tease the grand finale—Module 15 (Capstone Project).

Part 2: Teleprompter Transcript (Persian)

[Action 1] سلام رفقا! سال ۲۰۲۳ یه وکیل باسابقه توی نیویورک توی پرونده Mata v. Avianca داشت یه لایحه دفاعیه مهم می‌نوشت. تنبلی‌اش اومد بره آرشیو دادگاه رو بگرده و به چت‌جی‌پی‌تی گفت: «چند تا پرونده قضایی مشابه به من معرفی کن.» چت‌جی‌پی‌تی هم ۶ تا پرونده حقوقی با اسم قاضی، تاریخ و نقل‌قول دقیق تحویلش داد. وکیل بدون اینکه چک کنه، لایحه رو گذاشت روی میز قاضی و… کاشف به عمل اومد هیچ‌کدوم از اون پرونده‌ها و قاضی‌ها اصلاً وجود خارجی نداشتن! قاضی وکیل رو جریمه سنگین کرد و آبروی چندساله‌اش توی کل دنیا رفت! توی ماژول چهاردهم می‌خوایم درباره اخلاق، ایمنی، حریم خصوصی و کپی‌رایت صحبت کنیم تا هیچ‌وقت توی شغل، دانشگاه یا کسب‌وکارمون همچین فاجعه‌ای سرمون نیاد.

[Action 2] همون‌طور که توی اسلاید اول می‌بینین، نادیده گرفتن اخلاق و ایمنی هوش مصنوعی شوخی‌بردار نیست و سه دسته عواقب واقعی داره:
اول، حقوقی و مالی: شکایت‌های سنگین کپی‌رایت و جریمه‌های تبعیض الگوریتمی برای شرکت‌ها.
دوم، اجتماعی: محروم شدن سیستماتیک گروه‌های خاص توی گرفتن وام، مسکن یا استخدام به خاطر سوگیری مدل‌ها.
و سوم، شخصی و حرفه‌ای: از اخراج از دانشگاه گرفته تا نابود شدن اعتبار شغلی به خاطر اعتماد کورکورانه به خروجی هوش مصنوعی!

[Action 3] برای اینکه با خیال راحت از این تکنولوژی استفاده کنیم، توی اسلاید دوم ۶ ستون اصلی اخلاق هوش مصنوعی رو می‌بینین:
۱. انصاف و سوگیری (Fairness & Bias): مدل‌ها از داده‌های گذشته یاد می‌گیرن؛ اگه داده‌های تاریخی تبعیض‌آمیز باشه، هوش مصنوعی هم همون چرخه باطل تبعیض رو تکرار می‌کنه.
۲. شفافیت و توضیح‌پذیری (Transparency): چون مدل‌ها «جعبه سیاه» هستن، همیشه ازشون بخواین مراحل استدلالشون رو گام‌به‌گام بنویسن تا بتونین منطقشون رو بررسی کنین.
۳. حریم خصوصی و حفاظت از داده‌ها (Privacy).
۴. پاسخگویی (Accountability): این اصل حقوقی رو حتماً به خاطر بسپارین! وقتی هوش مصنوعی یه عدد مالی، یه کد یا یه مشاوره اشتباه می‌ده، از نظر قانونی شرکت سازنده مدل مسئول نیست؛ شما به عنوان کاربر انسانی در نهایت مسئول تمام خروجی‌هایی هستین که منتشر می‌کنین!
۵. ایمنی و امنیت (Safety & Security): جلوگیری از جیل‌بریک شدن مدل برای ساخت کدهای مخرب یا فیشینگ.
۶. و نظارت انسانی (Human Oversight): توی تصمیم‌های حساس مثل استخدام، اخراج، پزشکی و قضاوت، حرف آخر رو همیشه باید انسان بزنه.

[Action 4] حالا بریم سراغ اسلاید سوم و کالبدشکافی دقیق توهم هوش مصنوعی (Hallucinations)!
چطوری مچ مدل رو وقتی داره توهم می‌زنه بگیریم؟
اول، همیشه لینک‌ها و رفرنس‌ها رو کلیک و چک کنین؛ مدل‌ها استاد ساختن لینک‌های فیک با ظاهر واقعی هستن (مثلاً nytimes.com/2023/fake-article-title که وقتی روش کلیک می‌کنین ارور 404 می‌ده!). دوم، دنبال تناقض‌های درونی متن بگردین و سوم، گول «لحن بیش‌ازحد مطمئن» مدل رو نخورین!
برای به حداقل رسوندن توهم هم ۴ تا استراتژی عملی داریم:
۱. استفاده از RAG و محدود کردن مدل به متن سند خودتون؛
۲. پرامپت‌های راستی‌آزمایی و منتقد: در پیام بعدی به خود مدل بگین: «پاسخ قبلی خود را مرور کن. آیا ادعاهای واقعی وجود دارد که ممکن است نادرست باشد؟ آن‌ها را مشخص کن.»
۳. مثلث‌سازی چندمدلی (Triangulation): یه ادعای مهم رو همزمان از ChatGPT، Claude و Gemini بپرسین و جواب‌هاشون رو با هم بسنجین؛
۴. و درخواست استنادهای قابل تایید با ابزارهای سرچ زنده.

[Action 5] نگاه کنین روی صفحه؛ وقتی همون پرامپت منتقد رو زیر جواب مدل می‌زنم، یهو خودش اعتراف می‌کنه که «بله، تاریخ و منبعی که در پاراگراف دوم گفتم قطعی نیست و ممکن است نادقیق باشد!» همین یک خط پرامپت منتقد، جلوی کلی سوتی کاری رو می‌گیره.

[Action 6] توی اسلاید چهارم می‌رسیم به بحث حیاتی حریم خصوصی داده‌ها!
یادتون باشه شرکت‌های هوش مصنوعی توی نسخه‌های رایگان و شخصی، سه چیز رو جمع می‌کنن: ۱. متن، عکس و فایل‌های پرامپت شما، ۲. لایک و دیس‌لایک‌ها، و ۳. متادیتا مثل آدرس IP و مرورگر شما—و به طور پیش‌فرض از مکالمات نسخه رایگان برای آموزش نسل بعدی مدل‌هاشون استفاده می‌کنن! (برخلاف نسخه‌های سازمانی Enterprise و API که محرمانه می‌مونن).
پس این ۳ قانون طلایی امنیت داده رو همیشه رعایت کنین:
اول، آزمون بیلبورد (Billboard Test): هیچ اطلاعاتی رو توی پرامپت رایگان نذارین که حاضر نیستین فردا صبح روی بیلبورد بزرگراه همت چاپ بشه!
دوم، ناشناس کردن داده‌ها (Anonymization): قبل از اینکه یه فایل اکسل رو بدین به هوش مصنوعی، اسم‌های واقعی، شماره‌های ملی و آدرس‌ها رو حذف کنین و به جاش بنویسین «مشتری الف» و «مشتری ب».
و سوم، انصراف از آموزش (Opt-Out): همین امروز برین توی تنظیمات اکانتتون و گزینه استفاده از داده‌ها برای آموزش مدل رو خاموش کنین!

[Action 7] روی صفحه ببینین؛ توی تنظیمات بخش Data Controls چت‌جی‌پی‌تی یا کلود، فقط کافیه این تیک رو خاموش کنین تا چت‌هاتون وارد دیتاست آموزشی نشه.

[Action 8] اسلاید پنجم یه سوال حقوقی خیلی مهم رو جواب می‌ده: «چه کسی مالک کپی‌رایت محتوای تولیدشده با هوش مصنوعی است؟»
طبق حکم فعلی اداره کپی‌رایت آمریکا و نهادهای بین‌المللی، اثری که ۱۰۰ درصد توسط هوش مصنوعی ساخته شده باشه (چه عکس، چه متن، چه آهنگ) به خاطر نداشتن «نویسندگی انسانی» شامل کپی‌رایت نمی‌شه! یعنی اگه یه کتاب یا لوگو رو بدون هیچ دخالتی ۱۰۰ درصد با AI بسازین، رقیبتون قانوناً می‌تونه همون رو کپی کنه و بفروشه! برای اینکه مالکیت معنوی اثر مال شما بشه، حتماً باید «ورودی خلاقانه و ویرایش قابل‌توجه انسانی» روی خروجی انجام داده باشین.

[Action 9] حالا توی اسلاید ششم، ۳ تا پرونده واقعی و مشهور (Case Studies) رو مرور کنیم که درس عبرت کل صنعت شدن:
۱. وکیل متوهم (Mata v. Avianca): که اول ویدیو گفتیم؛ اعتماد چشم‌بسته به پرونده‌های خیالی چت‌جی‌پی‌تی و جریمه شدن در دادگاه فدرال.
۲. سیستم استخدام آمازون: آمازون سال‌ها وقت گذاشت تا یه هوش مصنوعی برای غربالگری رزومه‌ها بسازه. چون رزومه‌های ۱۰ سال گذشته مهندس‌های آمازون بیشتر مال آقایون بود، هوش مصنوعی به این نتیجه رسیده بود که «مرد بودن» معیار موفقیته و هر رزومه‌ای که کلمه «زنان» (مثل «کاپیتان تیم شطرنج زنان») توش بود رو امتیاز منفی می‌داد!
۳. و نشت کد منبع سامسونگ: کارمندای سامسونگ برای اینکه باگ کدهاشون رو سریع‌تر پیدا کنن، کدهای منبع فوق‌محرمانه شرکت رو کپی کردن توی نسخه رایگان چت‌جی‌پی‌تی، و کل اسرار تجاری سامسونگ جذب سرورهای آموزشی OpenAI شد!

[Action 10] در نهایت، اسلاید هفتم چک‌لیست شخصی ۴ مرحله‌ای اخلاق هوش مصنوعی رو جلوی چشممون می‌ذاره. قبل از اینکه دکمه Send یا Publish رو روی هر خروجی هوش مصنوعی بزنین، این ۴ تا سوال رو از خودتون بپرسین:
– [ ] بررسی واقعیت: آیا تمام نام‌ها، تاریخ‌ها، لینک‌ها و آمارها رو مستقل چک کردم؟
– [ ] بررسی حریم خصوصی: آیا قبل از پرامپت‌نویسی، تمام داده‌های حساس و شخصی رو پاک کردم؟
– [ ] بررسی سوگیری: آیا این خروجی علیه گروه خاصی تعصب یا بی‌عدالتی نداره؟
– [ ] بررسی پاسخگویی: اگر این خروجی کاملاً اشتباه از آب دربیاد، آیا آماده پذیرش مسئولیت کاملش هستم؟

[Action 11] دمتون گرم که تا پایان ماژول چهاردهم همراه من بودین! به نظرتون کدوم یکی از اون ۳ تا پرونده واقعی—وکیل نیویورکی، استخدام آمازون یا سوتی مهندس‌های سامسونگ—عجیب‌تر بود؟ توی کامنت‌ها برام بنویسین! لایک و سابسکرایب فراموش نشه، و حالا کمربندها رو ببندین که می‌خوایم بریم سراغ ایستگاه آخر و ماژول پانزدهم: مینی‌پروژه پایانی کارگاه!