সংক্ষেপে উত্তর
AI ভাষার মডেল মাঝে মাঝে গুছিয়ে, আত্মবিশ্বাস নিয়ে এমন উত্তর দেয় যা আসলে মিথ্যা, একে বলে hallucination। কারণ সে তথ্য খুঁজে দেখে না, সম্ভাব্য লেখা আন্দাজ করে। ব্যবসা নিরাপদ থাকে কয়েকটা নিয়মে: অনুমোদিত তথ্য থেকে উত্তর, AI-কে “জানি না” বলার সুযোগ, দামি যেকোনো কাজে মানুষের অনুমোদন, AI টুলে কী তথ্য যাবে তার নিয়ন্ত্রণ, আর আসল উদাহরণ দিয়ে নির্ভুলতা মাপা।
01তিনটা আসল ঘটনা, যা মনে রাখার মতো
- Air Canada, ২০২৪। একজন যাত্রী এয়ারলাইনের ওয়েবসাইটের chatbot-কে শোকজনিত যাত্রার বিশেষ ভাড়া নিয়ে জিজ্ঞেস করেন। chatbot বলে দেয়, ভ্রমণের পরেও ছাড়ের আবেদন করা যাবে। আসল নিয়ম ছিল উল্টো। এয়ারলাইন যুক্তি দেয়, chatbot নিজের কথার দায় নিজেই নেবে। কানাডার একটা ট্রাইব্যুনাল তা মানেনি: chatbot কোম্পানির ওয়েবসাইটেরই অংশ, আর ওয়েবসাইটের সব কিছুর দায় কোম্পানির। এয়ারলাইনকে ক্ষতিপূরণ দিতে হয়।
- বানানো মামলার ঘটনা, ২০২৩। নিউইয়র্কে দুজন আইনজীবী আদালতে এমন কিছু আগের মামলার উল্লেখ করে কাগজ জমা দেন, যেগুলো ChatGPT লিখে দিয়েছিল। মামলাগুলোর কোনো অস্তিত্বই ছিল না। বিচারক আইনজীবীদের আর তাঁদের ফার্মকে ৫,০০০ ডলার জরিমানা করেন।
- Samsung, ২০২৩। প্রকৌশলীরা সাহায্য পেতে গোপন সোর্স কোড আর ভেতরের নোট ChatGPT-তে পেস্ট করেন। এরপর কোম্পানি কর্মীদের generative AI টুল ব্যবহারে বিধিনিষেধ দেয়। কেউ হ্যাক করেনি; কর্মীরা নিজেরাই কোম্পানির গোপন তথ্য একটা পাবলিক টুলে টাইপ করে দিয়েছিলেন।
এর কোনোটাই অদ্ভুত কোনো প্রযুক্তির ব্যর্থতা নয়। ব্যর্থতাটা ছিল কাজের পদ্ধতিতে: তথ্যের কোনো ভিত্তি নেই, যাচাই নেই, তথ্য নিয়ে কোনো নিয়ম নেই।
02AI কেন বানিয়ে বলে
ভাষার মডেল তথ্য খুঁজে দেখে না। শেখা নকশা থেকে সে সবচেয়ে সম্ভাব্য পরের শব্দগুলো লেখে। বেশিরভাগ সময় সম্ভাব্য শব্দগুলো সত্যিই হয়। কিন্তু যখন তথ্যটা তার জানা নেই, তখনো সে এমন লেখা তৈরি করতে পারে যা শুনতে হুবহু সত্যি উত্তরের মতো, কারণ শুনতে ঠিক লাগাটাই তাকে শেখানো হয়েছে।
AI-এর চেনা ভুলগুলো:
- বানানো তথ্য: এমন নিয়ম, অফার বা ফিচার, যার অস্তিত্বই নেই।
- ভুল সংখ্যা: দাম, তারিখ, পরিমাণ আর হিসাব।
- নকল সূত্র: উদ্ধৃতি, লিংক বা কথা, যা দেখতে আসল কিন্তু আসলে নয়।
- পুরোনো তথ্য: মডেল যখন শেখানো হয়েছিল, তখন যা সত্যি ছিল।
- ভুল বোঝা: আসল ডকুমেন্ট পড়েও ভুল সিদ্ধান্তে পৌঁছানো।
- লুকানো নির্দেশ: ইমেইল বা ওয়েব পেজের লেখায় AI-কে অন্য কিছু করতে বলা থাকে, যাকে বলে prompt injection।
03কাজে AI ব্যবহারের ট্রাফিক-লাইট নিয়ম
| ঝুঁকি | উদাহরণ | নিয়ম |
|---|---|---|
| সবুজ | আইডিয়া খোঁজা, ভেতরের নোটের প্রথম খসড়া, নিজের মিটিং নোটের সারাংশ, লেখার সুর বদলানো | নির্দ্বিধায় ব্যবহার; কাউকে পাঠানোর আগে একজন মানুষ পড়ে নেবেন |
| হলুদ | প্রোডাক্ট আর ডেলিভারি নিয়ে কাস্টমারকে উত্তর, হ্যান্ডবুক থেকে কর্মীদের প্রশ্নের উত্তর | শুধু অনুমোদিত তথ্য থেকে, উৎসসহ; নিয়মিত নমুনা যাচাই; সহজে মানুষের কাছে পাঠানোর ব্যবস্থা |
| লাল | দাম আর ছাড়, রিফান্ড, পেমেন্ট, আইনি, চিকিৎসা বা আর্থিক পরামর্শ, ফেরানো যায় না এমন কিছু, বা অনেকের কাছে একসাথে যায় এমন কিছু | প্রতিবার একজন মানুষের অনুমোদন, নয়তো AI ব্যবহারই নয় |
- ঝুঁকি
- সবুজ
- উদাহরণ
- আইডিয়া খোঁজা, ভেতরের নোটের প্রথম খসড়া, নিজের মিটিং নোটের সারাংশ, লেখার সুর বদলানো
- নিয়ম
- নির্দ্বিধায় ব্যবহার; কাউকে পাঠানোর আগে একজন মানুষ পড়ে নেবেন
- ঝুঁকি
- হলুদ
- উদাহরণ
- প্রোডাক্ট আর ডেলিভারি নিয়ে কাস্টমারকে উত্তর, হ্যান্ডবুক থেকে কর্মীদের প্রশ্নের উত্তর
- নিয়ম
- শুধু অনুমোদিত তথ্য থেকে, উৎসসহ; নিয়মিত নমুনা যাচাই; সহজে মানুষের কাছে পাঠানোর ব্যবস্থা
- ঝুঁকি
- লাল
- উদাহরণ
- দাম আর ছাড়, রিফান্ড, পেমেন্ট, আইনি, চিকিৎসা বা আর্থিক পরামর্শ, ফেরানো যায় না এমন কিছু, বা অনেকের কাছে একসাথে যায় এমন কিছু
- নিয়ম
- প্রতিবার একজন মানুষের অনুমোদন, নয়তো AI ব্যবহারই নয়
নিজের ব্যবসার জন্য টেবিলটা লিখে ফেলুন, কর্মীরা দেখতে পান এমন জায়গায় রাখুন, আর কয়েক মাস পরপর আবার দেখুন।
04যা কখনোই AI টুলে দেবেন না
দ্বিতীয় ঝুঁকিটা নিঃশব্দ: ব্যবসার তথ্য বাইরে চলে যাওয়া। AI টুলে যা টাইপ বা আপলোড করেন, তা প্রোভাইডারের কাছে যায়। ফ্রি সংস্করণে সেটা মডেল উন্নত করতে ব্যবহার হতে পারে, যদি না আপনি বন্ধ করেন; বড় কোম্পানিগুলোর business আর API প্ল্যানে ডিফল্টভাবে training-এ ব্যবহার হয় না। যেটাই হোক, কিছু জিনিস সাধারণ AI টুলে কখনো পেস্ট করা উচিত নয়:
- পাসওয়ার্ড, PIN, OTP আর API key।
- কাস্টমারের জাতীয় পরিচয়পত্রের নম্বর, কার্ডের তথ্য, ব্যাংক বা মোবাইল ওয়ালেটের নম্বর।
- কাজের জন্য যতটুকু দরকার, তার বেশি অন্যের ব্যক্তিগত তথ্য।
- প্রকাশ না হওয়া আর্থিক হিসাব, চুক্তি আর দাম ঠিক করার কৌশল, যদি না পরিষ্কার ডেটা-শর্তের business প্ল্যান ব্যবহার করেন।
- সোর্স কোড আর সিস্টেমের খুঁটিনাটি, যদি না কোম্পানি টুলটা অনুমোদন করে।
05কাস্টমারের সাথে কথা বলা AI-এর বেড়া
- প্রতিটা উত্তরের ভিত্তি হবে অনুমোদিত তথ্য: প্রোডাক্ট, দাম, নিয়ম। এর বাইরে কিছু নয়।
- “জানি না, আমাদের টিমের সাথে যোগাযোগ করিয়ে দিচ্ছি” বলার সুযোগ রাখুন, উৎসাহও দিন।
- তথ্য তাৎক্ষণিক যাচাই না হলে ছাড়, রিফান্ড বা ডেলিভারির তারিখের প্রতিশ্রুতি AI-কে কখনো দিতে দেবেন না।
- কাস্টমারকে জানান যে তিনি একটা স্বয়ংক্রিয় সহকারীর সাথে কথা বলছেন, আর মানুষের কাছে পৌঁছানো সহজ রাখুন।
- সব কথোপকথনের পূর্ণ লগ রাখুন, যাতে ভুল খুঁজে ঠিক করা যায়।
- চালুর আগে পুরোনো আসল প্রশ্ন দিয়ে পরীক্ষা করুন, আর কঠিন প্রশ্নের একটা তালিকা রাখুন, ধোঁকা দেওয়ার চেষ্টাসহ, প্রতিটা আপডেটের জন্য।
- প্রতি সপ্তাহে কিছু কথোপকথন নমুনা হিসেবে পড়ে দেখুন।
06আপনার AI ব্যবহারের দশ মিনিটের নিরাপত্তা-পরীক্ষা
- 01ব্যবসায় কে কোন AI টুল ব্যবহার করেন, সব লিখুন, কাজে ব্যবহৃত ব্যক্তিগত অ্যাকাউন্টসহ।
- 02প্রতিটার পাশে লিখুন প্ল্যান কোনটা (ফ্রি নাকি business), আর কী ধরনের তথ্য সেখানে যায়।
- 03যে AI কাস্টমারের সাথে কথা বলে, সেটা চিহ্নিত করে প্রশ্ন করুন: এটা কী কী প্রতিশ্রুতি দিতে পারে?
- 04সম্প্রতি কাস্টমারের কাছে যাওয়া AI-এর লেখা একটা মেসেজ নিয়ে তার প্রতিটা তথ্য যাচাই করুন।
- 05এই সপ্তাহেই আপনার এক পাতার AI নীতিমালায় যোগ করার জন্য একটা নিয়ম ঠিক করুন।
প্রশ্নোত্তর
Hallucination কি পুরোপুরি বন্ধ করা যায়?
পুরোপুরি নয়। তবে নিজের তথ্যের ভিত্তিতে উত্তর, AI কী উত্তর দিতে পারবে তার সীমা, ঝুঁকিপূর্ণ উত্তর যাচাই আর নির্ভুলতা মাপার মাধ্যমে একে সামলানোর মতো পর্যায়ে নামিয়ে আনা যায়। লক্ষ্য এমন একটা ব্যবস্থা, যেখানে ভুল কম হয়, দ্রুত ধরা পড়ে, আর ঠিক করা সস্তা।
Chatbot যা বলে, তার দায় কি ব্যবসার?
Air Canada-র ঘটনায় ট্রাইব্যুনাল বলেছে, হ্যাঁ, কারণ chatbot কোম্পানির নিজের চ্যানেলেরই অংশ। ধরে নেওয়াই বুদ্ধিমানের কাজ যে কাস্টমার, এবং নিয়ন্ত্রক সংস্থাও, আপনার AI-এর কথাকে আপনার কথা হিসেবেই দেখবে।
ব্যবসার কাজে ফ্রি ChatGPT কি নিরাপদ?
সাধারণ, গোপন নয় এমন কাজে হতে পারে। কাস্টমারের তথ্য, আর্থিক বিবরণ বা গোপন পরিকল্পনার জন্য পরিষ্কার ডেটা-শর্তের business প্ল্যান ব্যবহার করুন, নিজের নীতিমালা মানুন, আর পাসওয়ার্ড, পরিচয়পত্র বা কার্ডের নম্বর কখনো পেস্ট করবেন না।
আমার AI সহকারী যথেষ্ট নির্ভুল কি না, কীভাবে বুঝব?
মেপে দেখুন। জানা সঠিক উত্তরসহ আসল প্রশ্ন জোগাড় করুন, সহকারীকে দিয়ে উত্তর করান, নম্বর দিন, আর যাচাই ছাড়া কাস্টমারকে উত্তর দেওয়ার অনুমতির আগে একটা ন্যূনতম নির্ভুলতার মান ঠিক করুন।
সর্বশেষ আপডেট