মার্কিন গোয়েন্দা সংস্থার জেনারেটিভ এআই গ্রহণ করা একযোগে সতর্ক এবং জরুরি

আরলিংটন, ভার্জিনিয়া (এপি) — জেনারেটিভ AI এর বুমের অনেক আগে, একটি সিলিকন ভ্যালি ফার্ম অবৈধ চীনা ফেন্টানাইল পাচারের অ-শ্রেণিকৃত ডেটা সংগ্রহ এবং বিশ্লেষণ করার জন্য চুক্তিবদ্ধ হয়েছিল মার্কিন গোয়েন্দা সংস্থাগুলির দ্বারা আলিঙ্গনের জন্য একটি বাধ্যতামূলক কেস তৈরি করেছে৷

অপারেশনের ফলাফলগুলি কেবলমাত্র মানব-বিশ্লেষণকে ছাড়িয়ে গেছে, এতে দ্বিগুণ কোম্পানি এবং 400% বেশি লোককে মারাত্মক ওপিওডের অবৈধ বা সন্দেহজনক ব্যবসায় জড়িত খুঁজে পাওয়া গেছে।

উত্তেজিত মার্কিন গোয়েন্দা কর্মকর্তারা প্রকাশ্যে ফলাফলের কথা বলেছে – এআই বেশিরভাগ ইন্টারনেট এবং ডার্ক-ওয়েব ডেটার উপর ভিত্তি করে সংযোগ তৈরি করেছে – এবং ক্র্যাকডাউনের আহ্বান জানিয়ে বেইজিং কর্তৃপক্ষের সাথে সেগুলি ভাগ করেছে।

2019 অপারেশনের একটি গুরুত্বপূর্ণ দিক, সাবল স্পিয়ার বলা হয়, যা আগে রিপোর্ট করা হয়নি: ফার্মটি মার্কিন এজেন্সিগুলি প্রদানের জন্য জেনারেটিভ AI ব্যবহার করেছে — OpenAI-এর যুগান্তকারী ChatGPT প্রোডাক্ট প্রকাশের তিন বছর আগে — সম্ভাব্য অপরাধমূলক মামলার প্রমাণ সারসংক্ষেপ সহ, অসংখ্য কাজের সময় বাঁচিয়েছে।

“আপনি কৃত্রিম বুদ্ধিমত্তা ছাড়া এটি করতে সক্ষম হবেন না,” বলেছেন ব্রায়ান ড্রেক, ডিফেন্স ইন্টেলিজেন্স এজেন্সির তৎকালীন AI-এর পরিচালক এবং প্রকল্প সমন্বয়কারী৷

ঠিকাদার, রম্বস পাওয়ার, পরবর্তীতে ইউক্রেনে রাশিয়ার পূর্ণ-স্কেল আক্রমণের পূর্বাভাস দিতে 80% নিশ্চিততার সাথে চার মাস আগে, একটি ভিন্ন মার্কিন সরকারের ক্লায়েন্টের জন্য জেনারেটিভ এআই ব্যবহার করবে। রম্বস বলেছে যে এটি সরকারী গ্রাহকদেরকেও সতর্ক করে, যাদের নাম তিনি অস্বীকার করেন, আসন্ন উত্তর কোরিয়ার ক্ষেপণাস্ত্র উৎক্ষেপণ এবং চীনা মহাকাশ অভিযান সম্পর্কে।

মার্কিন গোয়েন্দা সংস্থাগুলি এআই বিপ্লবকে আলিঙ্গন করার জন্য ঝাঁকুনি দিচ্ছে, বিশ্বাস করে যে তারা অন্যথায় সেন্সর-জেনারেটেড নজরদারি প্রযুক্তি গ্রহকে আরও কম্বল করে দেওয়ার কারণে সূচকীয় ডেটা বৃদ্ধির দ্বারা ক্ষতিগ্রস্ত হবে।

কিন্তু কর্মকর্তারা অত্যন্ত সচেতন যে প্রযুক্তিটি তরুণ এবং ভঙ্গুর, এবং সেই জেনারেটিভ এআই – চাহিদা অনুযায়ী পাঠ্য, ছবি, ভিডিও এবং মানুষের মতো কথোপকথন তৈরি করার জন্য বিশাল ডেটাসেটে প্রশিক্ষিত ভবিষ্যদ্বাণী মডেলগুলি – একটি বিপজ্জনক বাণিজ্যের জন্য তৈরি করা ছাড়া অন্য কিছুই নয় প্রতারণার মধ্যে নিমজ্জিত

বিশ্লেষকদের প্রয়োজন “অত্যাধুনিক কৃত্রিম বুদ্ধিমত্তা মডেল যা প্রচুর পরিমাণে ওপেন সোর্স এবং গোপনে অর্জিত তথ্য হজম করতে পারে,” সিআইএ পরিচালক উইলিয়াম বার্নস আর ইন্সটলি ফরেন অ্যাফেয়ার্সে লিখেছেন। কিন্তু এটা সহজ হবে না।

সিআইএ-এর উদ্বোধনী প্রধান প্রযুক্তি কর্মকর্তা নন্দ মুলচান্দানি মনে করেন যে জেনারেল এআই মডেল “হ্যালুসিনেট” করার কারণে তাদের “পাগল, মাতাল বন্ধু” হিসাবে সবচেয়ে ভাল আচরণ করা হয় – দুর্দান্ত অন্তর্দৃষ্টি এবং সৃজনশীলতা কিন্তু পক্ষপাত-প্রবণ ফাইবারেও সক্ষম। এছাড়াও নিরাপত্তা এবং গোপনীয়তার সমস্যা রয়েছে: প্রতিপক্ষরা চুরি করতে পারে এবং তাদের বিষ দিতে পারে এবং তাদের মধ্যে সংবেদনশীল ব্যক্তিগত ডেটা থাকতে পারে যা অফিসারদের দেখার জন্য অনুমোদিত নয়।

এটি পরীক্ষা-নিরীক্ষা বন্ধ করছে না, যদিও, যা বেশিরভাগই গোপনে ঘটছে।

একটি ব্যতিক্রম: এখন 18 মার্কিন গোয়েন্দা সংস্থা জুড়ে হাজার হাজার বিশ্লেষক একটি সিআইএ-উন্নত জেনারেল এআই ব্যবহার করুন ওসিরিস বলা হয়। এটি অশ্রেণীবদ্ধ এবং সর্বজনীনভাবে বা বাণিজ্যিকভাবে উপলব্ধ ডেটাতে চলে — যা ওপেন-সোর্স নামে পরিচিত। এটি টীকাযুক্ত সারাংশ লেখে এবং এর চ্যাটবট ফাংশন বিশ্লেষকদের প্রশ্নের সাথে আরও গভীরে যেতে দেয়।

মুলচান্দানি বলেছিলেন যে এটি বিভিন্ন বাণিজ্যিক সরবরাহকারীদের থেকে একাধিক এআই মডেল নিয়োগ করে যার নাম তিনি বলতে চান না। সিআইএ শ্রেণীবদ্ধ নেটওয়ার্কে বড় কোনো কিছুর জন্য জেনার এআই ব্যবহার করছে কিনা তাও তিনি বলবেন না।

“এটি এখনও প্রাথমিক দিন,” মুলচান্দানি বলেন, “এবং আমাদের বিশ্লেষকদের সম্পূর্ণ নিশ্চিতভাবে চিহ্নিত করতে সক্ষম হতে হবে যে তথ্যটি কোথা থেকে এসেছে।” সিআইএ সমস্ত বড় জেনার এআই মডেলগুলি চেষ্টা করছে – কারও কাছে প্রতিশ্রুতিবদ্ধ নয় – কারণ আংশিকভাবে এআই একে অপরকে সক্ষমতার সাথে লাফিয়ে চলেছে, তিনি বলেছিলেন।

মুলচান্দানি বলেছেন যে জেনারেল এআই বেশিরভাগই ভার্চুয়াল সহকারী হিসাবে ভাল “সুই স্ট্যাকের মধ্যে সুই” খুঁজছেন। এটি কখনই করবে না, কর্মকর্তারা জোর দিয়ে বলেন, মানব বিশ্লেষকদের প্রতিস্থাপন করা হয়।

লিন্ডা ওয়েইসগোল্ড, যিনি গত বছর বিশ্লেষণের উপ-সিআইএ পরিচালক হিসাবে অবসর নিয়েছেন, মনে করেন যুদ্ধ-গেমিং একটি “হত্যাকারী অ্যাপ” হবে।

তার মেয়াদে, সংস্থাটি ইতিমধ্যেই নিয়মিত এআই ব্যবহার করছিল – অ্যালগরিদম এবং প্রাকৃতিক-ভাষা প্রক্রিয়াকরণ – সম্ভাব্য গুরুত্বপূর্ণ উন্নয়নের জন্য অফ আওয়ারে বিশ্লেষকদের সতর্ক করা সহ অনুবাদ এবং কাজগুলির জন্য। এআই কী ঘটেছে তা বর্ণনা করতে সক্ষম হবে না – এটি শ্রেণীবদ্ধ করা হবে – তবে বলতে পারে “এখানে এমন কিছু রয়েছে যা আপনাকে আসতে হবে এবং দেখতে হবে।”

জেনারেল এআই এই ধরনের প্রক্রিয়াগুলিকে উন্নত করবে বলে আশা করা হচ্ছে।

এর সবচেয়ে শক্তিশালী বুদ্ধিমত্তার ব্যবহার হবে ভবিষ্যদ্বাণীমূলক বিশ্লেষণে, বিশ্বাস করেন রম্বস পাওয়ারের সিইও, আংশু রায়৷ “এটি সম্ভবত সমগ্র জাতীয় নিরাপত্তা ক্ষেত্রের সবচেয়ে বড় প্যারাডাইম পরিবর্তনগুলির মধ্যে একটি হতে চলেছে – আপনার প্রতিপক্ষরা কী করতে পারে তা অনুমান করার ক্ষমতা।”

Rhombus’ AI মেশিনটি 250টি ভাষায় 5,000-এর বেশি ডেটাস্ট্রিম ড্র করে যা 10-এরও বেশি বছর ধরে বিশ্বব্যাপী সংবাদ উত্স, স্যাটেলাইট চিত্র এবং ডেটা সাইবারস্পেস সহ সংগৃহীত। এর সবটাই ওপেন সোর্স। “আমরা মানুষ ট্র্যাক করতে পারি, আমরা বস্তু ট্র্যাক করতে পারি,” রায় বলেছিলেন৷

মার্কিন গোয়েন্দা সংস্থার ব্যবসার জন্য প্রতিদ্বন্দ্বী AI বিগশটগুলির মধ্যে রয়েছে মাইক্রোসফ্ট, যা 7 মে ঘোষণা করেছে যে এটি শীর্ষ-গোপন নেটওয়ার্কগুলির জন্য OpenAI এর GPT-4 অফার করছে, যদিও পণ্যটি এখনও শ্রেণীবদ্ধ নেটওয়ার্কগুলিতে কাজের জন্য স্বীকৃত হতে হবে৷

একটি প্রতিযোগী, প্রাইমার এআই, তার গ্রাহকদের মধ্যে দুটি নামহীন গোয়েন্দা সংস্থার তালিকা করে — যার মধ্যে রয়েছে সামরিক পরিষেবা, সাম্প্রতিক সামরিক AI কর্মশালার জন্য অনলাইনে পোস্ট করা নথি। এটি টুইটার, টেলিগ্রাম, রেডডিট এবং ডিসকর্ড সহ উত্সগুলির “ব্রেকিং ইভেন্টগুলির উদীয়মান সংকেত সনাক্ত করতে” 100টি ভাষায় এআই-চালিত অনুসন্ধান অফার করে এবং “মূল ব্যক্তি, সংস্থা, অবস্থানগুলি” সনাক্ত করতে সহায়তা করে। মধ্যে লক্ষ্যবস্তু প্রাইমার তালিকা এর প্রযুক্তির বিজ্ঞাপিত ব্যবহার. ক 7 অক্টোবর হামাসের হামলার ঠিক কয়েকদিন পর একটি সেনা সম্মেলনে ডেমো ইস্রায়েলে, কোম্পানির নির্বাহীরা বর্ণনা করেছেন যে কীভাবে তাদের প্রযুক্তি মধ্যপ্রাচ্য থেকে অনলাইন তথ্যের বন্যায় কথাসাহিত্য থেকে সত্যকে আলাদা করে।

প্রাইমার এক্সিকিউটিভরা সাক্ষাত্কার নিতে অস্বীকার করেছেন।

নিকটবর্তী সময়ে, মার্কিন গোয়েন্দা কর্মকর্তারা কীভাবে জেনার এআই ব্যবহার করেন তা প্রতিপক্ষরা কীভাবে এটি ব্যবহার করে তা প্রতিরোধ করার চেয়ে কম গুরুত্বপূর্ণ হতে পারে: মার্কিন প্রতিরক্ষা ছিদ্র করতে, অপপ্রচার এবং ওয়াশিংটনের তাদের উদ্দেশ্য এবং ক্ষমতা পড়ার ক্ষমতাকে ক্ষুণ্ন করার চেষ্টা করে।

এবং যেহেতু সিলিকন ভ্যালি এই প্রযুক্তিটি চালায়, তাই হোয়াইট হাউসও উদ্বিগ্ন যে মার্কিন এজেন্সিগুলি দ্বারা গৃহীত যে কোনও জেনার এআই মডেল অনুপ্রবেশ এবং বিষক্রিয়া হতে পারে, কিছু গবেষণা ইঙ্গিত করে খুব একটা হুমকি।

আরেকটি উদ্বেগ: “মার্কিন ব্যক্তিদের” গোপনীয়তা নিশ্চিত করা যাদের ডেটা একটি বড় ভাষার মডেলে এম্বেড করা হতে পারে।

“যদি আপনি কোনো গবেষক বা বিকাশকারীর সাথে কথা বলেন যে একটি বৃহৎ ভাষার মডেল প্রশিক্ষণ দিচ্ছেন এবং তাদের জিজ্ঞাসা করুন যে মূলত একটি এলএলএম থেকে একটি পৃথক তথ্য মুছে ফেলা এবং এটিকে ভুলে যাওয়া সম্ভব কিনা — এবং একটি শক্তিশালী পরীক্ষামূলক সেই ভুলে যাওয়ার গ্যারান্টি — এটা এমন কিছু নয় যেটা সম্ভব নয়,” জন বেইলার, ডিরেক্টর অফ ন্যাশনাল ইন্টেলিজেন্স অফিসের এআই লিড, একটি সাক্ষাত্কারে বলেছেন।

এটি একটি কারণ গোয়েন্দা সম্প্রদায় জেনার এআই গ্রহণের ক্ষেত্রে “মুভ-ফাস্ট-এন্ড-ব্রেক-থিংস” মোডে নেই।

“আমরা এমন একটি বিশ্বে থাকতে চাই না যেখানে আমরা দ্রুত চলে যাই এবং এই জিনিসগুলির মধ্যে একটি স্থাপন করি এবং তারপরে এখন থেকে দুই বা তিন বছর পরে বুঝতে পারি যে তাদের কাছে কিছু তথ্য বা কিছু প্রভাব বা কিছু উদ্ভূত আচরণ রয়েছে যা আমরা প্রত্যাশা করিনি।” বেইলার ড.

এটি একটি উদ্বেগের বিষয়, উদাহরণস্বরূপ, যদি সরকারী সংস্থাগুলি জৈব- এবং সাইবার-অস্ত্র প্রযুক্তি অন্বেষণ করতে AIs ব্যবহার করার সিদ্ধান্ত নেয়।

কুইন্সি ইনস্টিটিউট ফর রেসপন্সিবল স্টেটক্রাফ্টের একজন সিনিয়র গবেষক উইলিয়াম হার্টুং বলেছেন, গোয়েন্দা সংস্থাগুলিকে অবশ্যই AIs এর সম্ভাব্য অপব্যবহারের জন্য সতর্কতার সাথে মূল্যায়ন করতে হবে যাতে তারা বেআইনি নজরদারি বা সংঘর্ষে বেসামরিক হতাহতের সংখ্যা বৃদ্ধির মতো অনাকাঙ্ক্ষিত পরিণতির দিকে নিয়ে যায়।

“এই সবগুলি বারবার উদাহরণের প্রেক্ষাপটে আসে যেখানে সামরিক এবং গোয়েন্দা খাতগুলি “অলৌকিক অস্ত্র” এবং বিপ্লবী পদ্ধতির কথা বলেছে — ভিয়েতনামের ইলেকট্রনিক যুদ্ধক্ষেত্র থেকে 1980 এর দশকের স্টার ওয়ার প্রোগ্রাম পর্যন্ত “সামরিক বিষয়ে বিপ্লব” 1990 এবং 2000 এর দশক — শুধুমাত্র তাদের খুঁজে পেতে কম পড়ে,” তিনি বলেন।

সরকারী কর্মকর্তারা জোর দিয়েছিলেন যে তারা এই ধরনের উদ্বেগের প্রতি সংবেদনশীল। এছাড়াও, তারা বলে, এআই মিশনগুলি জড়িত সংস্থার উপর নির্ভর করে ব্যাপকভাবে পরিবর্তিত হবে। কোন এক-আকার-ফিট-সব নেই.

জাতীয় নিরাপত্তা সংস্থার কথাই ধরুন। এটি যোগাযোগকে বাধা দেয়। অথবা National Geospatial-Intelligence Agency (NGA)। এর কাজের মধ্যে রয়েছে গ্রহের প্রতিটি ইঞ্চি দেখা এবং বোঝা। তারপর আছে পরিমাপ এবং স্বাক্ষর ইন্টেলযা একাধিক এজেন্সি শারীরিক সেন্সর ব্যবহার করে হুমকি ট্র্যাক করতে ব্যবহার করে।

AI এর সাথে এই ধরনের মিশনগুলিকে সুপারচার্জ করা একটি স্পষ্ট অগ্রাধিকার।

ডিসেম্বরে এনজিএ জারি করে প্রস্তাবের জন্য একটি অনুরোধ সম্পূর্ণ নতুন ধরনের জেনারেটিভ এআই মডেলের জন্য। উদ্দেশ্য হল এটি সংগ্রহ করা চিত্রগুলি ব্যবহার করা – উপগ্রহ থেকে এবং স্থল স্তরে – সাধারণ ভয়েস বা পাঠ্য প্রম্পট সহ সঠিক ভূ-স্থানীয় ইন্টেল সংগ্রহ করা। জেনারেল এআই মডেলগুলি রাস্তা এবং রেলপথের মানচিত্র তৈরি করে না এবং “ভূগোলের মূল বিষয়গুলি বোঝে না,” এনজিএ-এর উদ্ভাবনের পরিচালক, মার্ক মুনসেল, একটি সাক্ষাত্কারে বলেছিলেন।

মুনসেল এ সময় ড এপ্রিল সম্মেলন আর্লিংটন, ভার্জিনিয়াতে যে মার্কিন সরকার বর্তমানে গ্রহের প্রায় 3% মডেল এবং লেবেল করেছে।

Gen AI অ্যাপ্লিকেশনগুলি সাইবার দ্বন্দ্বের জন্যও অনেক অর্থবহ করে তোলে, যেখানে আক্রমণকারী এবং ডিফেন্ডাররা ক্রমাগত লড়াইয়ে থাকে এবং অটোমেশন ইতিমধ্যেই চালু রয়েছে।

কিন্তু প্রাক্তন প্রতিরক্ষা গোয়েন্দা কর্মকর্তা জ্যাচেরি টাইসন ব্রাউন বলেছেন, তথ্য বিজ্ঞানের সাথে অনেক গুরুত্বপূর্ণ গোয়েন্দা কাজের কোনো সম্পর্ক নেই। তিনি বিশ্বাস করেন যে ইন্টেল এজেন্সিগুলি যদি খুব দ্রুত বা সম্পূর্ণভাবে জেনার এআই গ্রহণ করে তবে তারা বিপর্যয়কে আমন্ত্রণ জানাবে। মডেলরা যুক্তি দেয় না। তারা শুধু ভবিষ্যদ্বাণী করে। এবং তাদের ডিজাইনাররা সম্পূর্ণরূপে ব্যাখ্যা করতে পারে না কিভাবে তারা কাজ করে।

প্রতারণার প্রতিদ্বন্দ্বী মাস্টারদের সাথে বুদ্ধি মেলানোর জন্য সেরা হাতিয়ার নয়।

“গোয়েন্দা বিশ্লেষণ সাধারণত একটি জিগস ধাঁধা একত্রিত করার বিষয়ে পুরানো ট্রপের মতো, শুধুমাত্র অন্য কেউ ক্রমাগত আপনার টুকরা চুরি করার চেষ্টা করে এবং আপনি যে স্তূপে কাজ করছেন সেখানে সম্পূর্ণ ভিন্ন ধাঁধার টুকরোগুলি স্থাপন করে,” ব্রাউন সম্প্রতি লিখেছেন একটি ইন-হাউস সিআইএ জার্নালে। বিশ্লেষকরা “অসম্পূর্ণ, অস্পষ্ট, প্রায়ই আংশিক, অবিশ্বস্ত তথ্যের পরস্পরবিরোধী স্নিপেট” নিয়ে কাজ করেন।

তারা প্রবৃত্তি, সহকর্মী এবং প্রাতিষ্ঠানিক স্মৃতিতে যথেষ্ট আস্থা রাখে।

“আমি শীঘ্রই AI বিশ্লেষকদের প্রতিস্থাপন করতে দেখছি না,” বলেছেন ওয়েইসগোল্ড, বিশ্লেষণের সাবেক সিআইএ উপ-পরিচালক।

জীবন-মৃত্যুর দ্রুত সিদ্ধান্তগুলি কখনও কখনও অসম্পূর্ণ ডেটার উপর ভিত্তি করে নেওয়া উচিত এবং বর্তমান জেনার এআই মডেলগুলি এখনও খুব অস্বচ্ছ৷

“আমি মনে করি না যে এটি কোন রাষ্ট্রপতির কাছে গ্রহণযোগ্য হবে,” ওয়েইসগোল্ড বলেছিলেন, “গোয়েন্দা সম্প্রদায়ের কাছে এসে বলবে, ‘আমি জানি না, ব্ল্যাক বক্স আমাকে তাই বলেছিল।'”