আপত্তিকর ছবি জেনারেট করার অভিযোগে Elon Musk এর কোম্পানি xAI এর বিরুদ্ধে মামলা দিয়েছেন তারই সন্তান Romulus এর মা, Ashley St. Clair ।

আপত্তিকর ছবি জেনারেট করার অভিযোগে Elon Musk এর কোম্পানি xAI এর বিরুদ্ধে মামলা দিয়েছেন তারই সন্তান Romulus এর মা, Ashley St. Clair ।
অ্যাশলির অভিযোগ অনুযায়ী, Grok ব্যবহার করে তার সম্মতি ছাড়াই Non-Consensual Intimate Imagery (NCII) জেনারেট করা হয়েছে। আরও শকিং তথ্য হলো, এর মধ্যে তার ১৪ বছর বয়সের ছবি ম্যানিপুলেট করার মতো গুরুতর অভিযোগও রয়েছে। Grok এর সিস্টেমকে যখন তিনি রিপোর্ট করেন, তখন বটটি প্রথমে সম্মতি না থাকার বিষয়টি স্বীকার করলেও, পরবর্তীতে সেই একই ধরনের কন্টেন্ট জেনারেট করা থামায়নি। অর্থাৎ, AI এর রিফিউজাল মেকানিজম বা সেফটি গার্ডরেইল এখানে পুরোপুরি ব্যর্থ।
আমরা জানি, মাস্ক সবসময় Grok কে ফ্রি স্পিচ অ্যাবসলুটিস্ট এবং কম রেস্ট্রিকশন থাকা AI হিসেবে পজিশন করতে চেয়েছেন। ChatGPT বা Gemini যেখানে পলিটিক্যালি কারেক্ট বা সেফটি নিয়ে ওভার সেনসিটিভ, সেখানে Grok কে রাখা হয়েছিল কিছুটা Edgy বা আনফিল্টারড হিসেবে। কিন্তু সবচেয়ে আইরনি ব্যাপার হলো, খোদ ফাউন্ডারের পরিবারের সদস্যই যখন তার তৈরি প্রযুক্তির ভিক্টিম হন এবং প্রতিকার না পেয়ে আদালতের দ্বারস্থ হন, তখন সাধারণ ইউজারদের ডেটা প্রাইভেসি বা নিরাপত্তার গ্যারান্টি আসলে কতটুকু!
অভিযোগে আরও বলা হয়েছে, বিষয়টি নিয়ে অভিযোগ করার পর X(Twitter) প্ল্যাটফর্ম থেকে উল্টো অ্যাশলির অ্যাকাউন্ট ডিমনিটাইজ করা হয়েছে, যা টেকনোলজি কোম্পানিগুলোর Retaliation বা পাল্টা ব্যবস্থা নেওয়ার কালচারকে আবারও প্রশ্নের মুখে ফেলে দেয়। টেকনোলজির কাজ মানুষের জীবন সহজ করা, কিন্তু জেনারেটিভ এআই এর এই ডার্ক সাইড বা অপব্যবহার রোধে যদি এখনই কঠোর রেগুলেশন বা টেকনিক্যাল হার্ড স্টপ না বসানো হয়, তবে আমরা হয়তো সামনে আরো কঠিন কিছুর সম্মুখীন হতে যাচ্ছি।
ইতোমধ্যেই Grok AI ইন্দোনেশিয়া এবং মালয়েশিয়া তে এক্সেস ব্লক বা রেস্ট্রিকটেড করা হয়েছে। এছাড়া কানাডা, ইউকে, জাপান, ফিলিপাইন সহ আরো কিছু দেশ লিগ্যাল ওয়ার্নিং দিয়েছে xAI কে। এখন দেখার বিষয় Elon Musk এই বিষয় সামনে কিভাবে সমাধান করেন।

 

আপত্তিকর ছবি জেনারেট করার অভিযোগে Elon Musk এর কোম্পানি xAI এর বিরুদ্ধে মামলা দিয়েছেন তারই সন্তান Romulus এর মা, Ashley St. Clair ।

অ্যাশলির অভিযোগ অনুযায়ী, Grok ব্যবহার করে তার সম্মতি ছাড়াই Non-Consensual Intimate Imagery (NCII) জেনারেট করা হয়েছে। আরও শকিং তথ্য হলো, এর মধ্যে তার ১৪ বছর বয়সের ছবি ম্যানিপুলেট করার মতো গুরুতর অভিযোগও রয়েছে। Grok এর সিস্টেমকে যখন তিনি রিপোর্ট করেন, তখন বটটি প্রথমে সম্মতি না থাকার বিষয়টি স্বীকার করলেও, পরবর্তীতে সেই একই ধরনের কন্টেন্ট জেনারেট করা থামায়নি। অর্থাৎ, AI এর রিফিউজাল মেকানিজম বা সেফটি গার্ডরেইল এখানে পুরোপুরি ব্যর্থ।

আমরা জানি, মাস্ক সবসময় Grok কে ফ্রি স্পিচ অ্যাবসলুটিস্ট এবং কম রেস্ট্রিকশন থাকা AI হিসেবে পজিশন করতে চেয়েছেন। ChatGPT বা Gemini যেখানে পলিটিক্যালি কারেক্ট বা সেফটি নিয়ে ওভার সেনসিটিভ, সেখানে Grok কে রাখা হয়েছিল কিছুটা Edgy বা আনফিল্টারড হিসেবে। কিন্তু সবচেয়ে আইরনি ব্যাপার হলো, খোদ ফাউন্ডারের পরিবারের সদস্যই যখন তার তৈরি প্রযুক্তির ভিক্টিম হন এবং প্রতিকার না পেয়ে আদালতের দ্বারস্থ হন, তখন সাধারণ ইউজারদের ডেটা প্রাইভেসি বা নিরাপত্তার গ্যারান্টি আসলে কতটুকু!

অভিযোগে আরও বলা হয়েছে, বিষয়টি নিয়ে অভিযোগ করার পর X(Twitter) প্ল্যাটফর্ম থেকে উল্টো অ্যাশলির অ্যাকাউন্ট ডিমনিটাইজ করা হয়েছে, যা টেকনোলজি কোম্পানিগুলোর Retaliation বা পাল্টা ব্যবস্থা নেওয়ার কালচারকে আবারও প্রশ্নের মুখে ফেলে দেয়। টেকনোলজির কাজ মানুষের জীবন সহজ করা, কিন্তু জেনারেটিভ এআই এর এই ডার্ক সাইড বা অপব্যবহার রোধে যদি এখনই কঠোর রেগুলেশন বা টেকনিক্যাল হার্ড স্টপ না বসানো হয়, তবে আমরা হয়তো সামনে আরো কঠিন কিছুর সম্মুখীন হতে যাচ্ছি। 

ইতোমধ্যেই Grok AI ইন্দোনেশিয়া এবং মালয়েশিয়া তে এক্সেস ব্লক বা রেস্ট্রিকটেড করা হয়েছে। এছাড়া কানাডা, ইউকে, জাপান, ফিলিপাইন সহ আরো কিছু দেশ লিগ্যাল ওয়ার্নিং দিয়েছে xAI কে। এখন দেখার বিষয় Elon Musk এই বিষয় সামনে কিভাবে সমাধান করেন।