জনসাধারণের জন্য উন্মুক্ত Large Language Model (LLM) অ্যাপ্লিকেশন ব্র্যান্ডকে সুনাম ও আর্থিক ঝুঁকির মুখে ফেলতে পারে.
LLM নিরাপত্তা এড়ানোর কৌশল এবং অন্যান্য অনিচ্ছাকৃত LLM আচরণ থেকে ক্ষতি কমাতে আমরা স্তরভিত্তিক শ্রেণিবিন্যাস ফিল্টার ব্যবহার করি.
আমরা এটি এমন একটি উচ্চ-ভলিউম প্রোডাকশন অ্যাপ্লিকেশনে প্রয়োগ করেছি, যেখানে প্রতিদিন 40,000টি বার্তা আসে এবং সংখ্যা বাড়ছে.
গত এক বছরে, আমরা একটি শীর্ষস্থানীয় গেম ডেভেলপারের সঙ্গে মিলে একটি জেনএআই চ্যাটবট চালু করেছি, যা শিশুদের অন্তর্ভুক্ত এমন খেলোয়াড়ভিত্তি থেকে প্রতিদিন প্রায় 40,000টি বার্তা সামলায়. গতি, নির্ভুলতা, নিরাপত্তা ও আনন্দের ভারসাম্য রাখা জরুরি:
আপনার ব্র্যান্ডের প্রতিনিধিত্ব করার জন্য চ্যাটবট তৈরি করলে শুধু নিরাপদ হলেই চলবে না, সেটিকে আপনার ব্র্যান্ডের মতোই খাঁটি শোনাতে হবে.
গেম কোম্পানির ক্ষেত্রে এর অর্থ হলো নিরাপত্তার সঙ্গে মজা ও ব্যবহারকারীর উত্তেজনাকে মিলিয়ে দেওয়া, বিশেষ করে কম বয়সী দর্শকদের জন্য.
আধুনিক জেনএআই অ্যাপ্লিকেশনের ভিত্তি যে LLMগুলো, সেগুলো খুব নমনীয়, যে কারণে নানা সমস্যায় এত ভালোভাবে সাধারণীকরণ করতে পারে, কিন্তু একই সঙ্গে সেগুলোতে সীমাবদ্ধতাও কম. এর অর্থ, সেগুলো প্রায়ই “নির্ধারিত পথের বাইরে” চলে যেতে পারে এবং নানা ধরনের টেক্সট ফিরিয়ে দিতে পারে, যার কিছু অনুপযুক্তও হতে পারে.
কোনো LLM সরাসরি জনসাধারণের সামনে উন্মুক্ত করলে অপ্রত্যাশিত আচরণ হবেই এবং যথাযথ প্রতিরোধ না থাকলে নিচের ঝুঁকি তৈরি হতে পারে:
“নিরাপত্তা এড়ানোর কৌশল”, যেখানে ব্যবহারকারীরা ইচ্ছাকৃতভাবে চ্যাটবটকে ক্ষতিকর বা নিষিদ্ধ কনটেন্ট তৈরি করাতে প্রভাবিত করে (মজার তথ্য, LLM নিরাপত্তা এড়ানোর কৌশল একটি মজার গেমের মাধ্যমে দেখতে যে কেউ এই ওয়েবসাইটে যেতে পারেন...); অথবা
অনিচ্ছাকৃতভাবে অরুচিকর, আক্রমণাত্মক বা বিপজ্জনক কনটেন্ট দেওয়া. অনেক ক্ষেত্রে, এটি ব্যবহারকারীর সুস্থতার জন্য ঝুঁকি তৈরি করতে পারে বা অ্যাপ সরবরাহকারীর আর্থিক/ব্র্যান্ড ক্ষতির কারণ হতে পারে.
অনিচ্ছাকৃত LLM ব্যবহারের খবরের শিরোনাম:
এই ঘটনাগুলো দেখিয়ে দেয়, জেনএআই সিস্টেমে নিরাপত্তা তৈরি করা এবং তা বজায় রাখা কেন ঐচ্ছিক নয়. ছোট শিশুদের ক্ষেত্রে এটি বিশেষভাবে সত্য; শুধু ডিসক্লেমারের ওপর ভরসা করা যায় না. কনটেন্ট উপযুক্ত রাখতে শক্তিশালী গার্ডরেইল অপরিহার্য.
ক্লায়েন্টদের জন্য তৈরি করা আমাদের RAG (Retrieval-Augmented Generation) সিস্টেমগুলোর মতোই, নিরাপত্তা এড়ানোর কৌশলের ঝুঁকি কমাতে এবং পারফরম্যান্স উচ্চ রাখতে আমরা একাধিক এআই উপাদান কাজে লাগাই.
আমাদের সিস্টেমের একটি সরলীকৃত আর্কিটেকচার ডায়াগ্রাম
সিস্টেমের নিরাপত্তা নিশ্চিত করতে আমরা ইনপুট ও আউটপুট উভয় ক্ষেত্রেই LLM ক্লাসিফায়ার ব্যবহার করি:
ইনপুট শ্রেণিবিন্যাস (একসঙ্গে চলমান)
ব্যবহারকারীর কোয়েরি লেবেল করতে আমরা LLM স্ট্রাকচার্ড আউটপুটসের পাশাপাশি Pydantic স্কিমা ব্যবহার করেছি, যেমন SAFE, SUSPICIOUS, CHILD_HARM_RISK, VIOLENT, ইত্যাদি. এতে নিরাপত্তা এড়ানোর কৌশল বা নিষিদ্ধ আচরণ শনাক্ত করার ফ্ল্যাগও ছিল.
আলাদা আলাদা বিষয়ের জন্য একাধিক ক্লাসিফায়ার ব্যবহার করলে একটি বিশাল “সবকিছু ধরার” ক্লাসিফায়ারের তুলনায় উল্লেখযোগ্যভাবে ভালো পারফরম্যান্স পাওয়া গেছে.
“এই চরিত্রের হাতে আমি বারবার মারা যাচ্ছি” (গেমের প্রসঙ্গ) এবং “আমার বাবা/মা আমাকে আঘাত করছে” (শিশু-ক্ষতির ইঙ্গিত) এর পার্থক্য ক্লাসিফায়ার যেন বুঝতে পারে, সে জন্য বিস্তৃত ফিউ-শট উদাহরণ অত্যন্ত গুরুত্বপূর্ণ ছিল.
ক্লায়েন্ট এবং তাদের বিশেষজ্ঞ ট্রাস্ট ও সেফটি দলের সঙ্গে ঘনিষ্ঠ সহযোগিতা নিশ্চিত করেছে যে আমাদের ক্লাসিফায়ার বাস্তব জীবনে উচ্চ-ঝুঁকির বার্তাগুলো তারা যেভাবে বিচার করতেন, তা প্রতিফলিত করে.
প্রতিক্রিয়া তৈরি
ইনপুট নিরাপদ বলে বিবেচিত হলে প্রধান LLM একটি প্রতিক্রিয়া তৈরি করে.
অন্যথায় বার্তাটি উপেক্ষা করা যেতে পারে (নিরাপত্তা এড়ানোর কৌশলের ক্ষেত্রে) অথবা মানুষের কাছে এসকেলেট করা যেতে পারে (যদি কোয়েরি নিরাপত্তা-সংক্রান্ত সমস্যা নির্দেশ করে).
আউটপুট শ্রেণিবিন্যাস
আমাদের অ্যাপ্লিকেশন থেকে বের হওয়ার আগে, চূড়ান্ত ডেলিভারির পূর্বে আমরা মডেলের প্রতিক্রিয়া শ্রেণিবিন্যাস করি.
যেহেতু কিছু প্রতিক্রিয়া ইন্টারনেট থেকে স্ক্র্যাপ করা ডেটার ওপর ভিত্তি করে RAG কৌশল ব্যবহার করতে পারে, এই ধাপটি আমাদের ডেটা-পয়জনিং থেকে সুরক্ষা দেয়.
যদি তাতে নিষিদ্ধ কনটেন্ট থাকে, সিস্টেম হস্তক্ষেপ করে এবং সেটিকে একটি সাধারণ বার্তা দিয়ে প্রতিস্থাপন করে. বাস্তবে আমরা খুব কমই এমন অভিজ্ঞতা পেয়েছি, তবে এজেন্টের আচরণ উপযুক্ত থাকে তা নিশ্চিত করার জন্য এটি বেশি করে একটি সতর্কতামূলক অতিরিক্ত স্তর.
গতি ও সাশ্রয়ী খরচ বজায় রাখতে:
আমরা সাধারণভাবে ব্যবহৃত প্রম্পট ও আংশিক সংলাপ, সঙ্গে বাছাই করা ফিউ-শট উদাহরণের একটি সেট সংরক্ষণ করি.
এই ক্যাশিং আমাদের দ্রুত ও কম খরচে LLM ক্লাসিফায়ার প্রয়োগ করতে দেয়, প্রতিবার নতুন করে কনটেক্সট তৈরি না করেই.
Anthropic-এর সাম্প্রতিক এক গবেষণায় Constitutional Classifiers-এর কথা বলা হয়েছে. এটি এমন একটি সিস্টেম, যা ক্ষতিকর বা অনিরাপদ অনুরোধ শনাক্ত করতে “সাংবিধানিক” নিয়মের মাধ্যমে প্রশিক্ষিত অতিরিক্ত ক্লাসিফায়ারের ওপর নির্ভর করে. তারা জানিয়েছে:
মানব রেড টিমিংয়ের হাজার হাজার ঘণ্টার পরীক্ষায় উচ্চ স্থিতিস্থাপকতা.
অতিরিক্ত প্রত্যাখ্যানের হার ন্যূনতম এবং কম্পিউট ব্যয় মাঝারি.
আমরা এমন ভবিষ্যৎ দেখি, যেখানে এই সাংবিধানিক পদ্ধতিগুলো প্রচলিত শ্রেণিবিন্যাস স্তরকে পরিপূরক করতে পারে, এমনকি প্রতিস্থাপনও করতে পারে, এবং বিকশিত হতে থাকা নিরাপত্তা এড়ানোর কৌশলের বিরুদ্ধে আরও পূর্ণাঙ্গ প্রতিরক্ষা দিতে পারে.
সমান্তরাল, হালকা ফিল্টার
শ্রেণিবিন্যাস স্তর ক্ষতিকর কোয়েরিকে জেনারেটিভ কোরে পৌঁছানোর আগেই আটকে দেয়, এবং নিম্নমানের আউটপুট যেন কখনও সরবরাহ না হয় তা নিশ্চিত করে.
ব্যবহারকারীর অভিজ্ঞতা গুরুত্বপূর্ণ
মজাদার, কাহিনিনির্ভর সতর্কতা ও খেলাচ্ছলে প্রত্যাখ্যানের ওপর জোর দিলে ব্যবহারকারীরা সিস্টেমের সীমাবদ্ধতা মেনে নিতে বেশি আগ্রহী হন.
পরীক্ষা ও মনিটরিংয়ে কোনো শর্টকাট নয়
নিয়মিত রেড টিমিং এবং খেলোয়াড়দের আচরণের ঘন ঘন মনিটরিং, দুর্বলতাগুলো বৃহত্তর খেলোয়াড়ভিত্তির কাছে পরিচিত হওয়ার আগেই শনাক্ত করতে সাহায্য করবে. এরপর এগুলো ফিউ-শট ক্লাসিফায়ার প্রম্পটে ফিরিয়ে দেওয়া যায়, যাতে ভবিষ্যতে এগুলো ব্যবহার করা না যায়. বর্তমানে এটি ম্যানুয়াল প্রক্রিয়া, তবে স্বয়ংক্রিয় করা সম্ভব.
আপনি গেমিং কোম্পানি, ব্যাংক বা এমনকি সরকারি বিভাগ যাই হন না কেন, বড় পরিসরে কাস্টমার সার্ভিস চ্যাটবট বাস্তবায়ন করতে হলে ব্যবহারকারী নকশা এবং বিশ্বাসযোগ্যতা, দুটিকেই লক্ষ্য করতে হবে.
আমরা এমন সংস্থা ও ব্র্যান্ডের জন্য গ্রাহকমুখী সমাধান তৈরি করি, যেখানে:
নিরাপত্তাই সর্বাগ্রে—এমন চ্যাটবট, যা ব্যবহারকারীদের মূল্য দেয় কিন্তু ক্ষতিকর কনটেন্ট থেকে কঠোরভাবে সুরক্ষা দেয়
সুনাম সুরক্ষিত থাকে—ব্যবহারকারীরা সিস্টেমকে সীমার বাইরে ঠেলে দেওয়ার চেষ্টা করলেও ব্র্যান্ডের সুনাম অক্ষুণ্ণ রাখতে আমরা একাধিক সুরক্ষা স্তর নকশা করি
নিয়মকানুন আপনার বিকল্প সীমিত করে—আমরা সর্বশেষ কমপ্লায়েন্স নির্দেশিকা সম্পর্কে হালনাগাদ থাকি, যাতে আপনার অ্যাপ্লিকেশন নিরাপত্তা এড়ানোর কৌশলে আক্রান্ত হওয়ার দুশ্চিন্তা ছাড়াই আপনি সমাধান স্কেল করতে পারেন