একটা জাতীয় স্বাস্থ্য ডেটাবেজ কল্পনা করুন। কোনো এক জেলায় বছরে মাত্র সাত-আটজন রোগী বিরল কোনো এক জটিলতায় ধরা পড়ছে। সংখ্যাটা খুব ছোট, কিন্তু ওই সাত-আটজন মানুষের জন্য এটাই তাঁদের পুরো বাস্তবতা। এখন কল্পনা করুন, এই ডেটাবেজে রোগীর পরিচয় গোপন রাখার জন্য একটা গাণিতিক পদ্ধতি বসানো হলো, যার কাজ হলো প্রতিটি সংখ্যার সঙ্গে সামান্য একটু এলোমেলো ‘শব্দ’ বা ‘নয়েজ’ যোগ করে দেওয়া। বড় সংখ্যার জন্য এই নয়েজ কিছুই না। কিন্তু সাত বা আটের মতো ছোট সংখ্যার ক্ষেত্রে এই সামান্য নয়েজই পুরো সংখ্যাকে গিলে ফেলতে পারে। ডেটাবেজ তখনো ঠিকই ‘গোপনীয়’ থাকে, কিন্তু ওই জেলার রোগীরা যেন কাগজে-কলমে অস্তিত্বহীন হয়ে যায়!

এই ব্যাপারটার একটা কেতাবি নাম আছে—ডিফারেনশিয়াল প্রাইভেসি। মার্কিন কম্পিউটার বিজ্ঞানী সিনথিয়া ডোয়ার্ক ২০০৬ সালে এই ধারণাটা প্রথম গাণিতিকভাবে দাঁড় করান। আর গত এক দশকে এটা বিশ্বজুড়ে স্বাস্থ্য ডেটা, আদমশুমারি, এমনকি বড় বড় এআই মডেল প্রশিক্ষণেও ব্যবহৃত হচ্ছে। সমস্যাটা হলো, যে গণিত আমাদের গোপনীয়তা রক্ষা করে, সেটিই কিছু মানুষকে পরিসংখ্যানের জগৎ থেকে একেবারে মুছে দিতে পারে। আর এই ঘটনা ঘটে নিয়মিতভাবে এবং প্রায় সব সময় একই ধরনের মানুষের সঙ্গে।

.হেডফোনে নয়েজ ক্যানসেলিং প্রযুক্তি কীভাবে কাজ করে.

সমস্যাটা গাণিতিকভাবেই অনিবার্য। ধরুন, একটা এলাকায় কোনো একটি বিরল রোগে আক্রান্ত মানুষের সংখ্যা ৫। শক্তিশালী প্রাইভেসি সেটিংসে নয়েজ যোগ করলে সেই ৫ হয়ে যেতে পারে ২ কিংবা ৯।

.

নয়েজ যেভাবে কাজ করে

ডিফারেনশিয়াল প্রাইভেসির মূল কৌশলটা বেশ সহজ। কোনো একটি প্রশ্নের সত্যিকারের উত্তরের সঙ্গে এলোমেলো একটা সংখ্যা যোগ করে দেওয়া হয়, যাতে কোনো একজন ব্যক্তির রেকর্ড ডেটাবেজে থাকুক বা না থাকুক, চূড়ান্ত উত্তরে খুব বেশি পার্থক্য না হয়। এই নয়েজের পরিমাণ নিয়ন্ত্রণ করে একটি প্যারামিটার।  একে বলা হয় এপসাইলন (ε)। এপসাইলন যত ছোট হবে, প্রাইভেসি বা গোপনীয়তা হবে তত শক্তিশালী; কিন্তু সেই সঙ্গে নয়েজও তত বাড়বে।

সমস্যাটা গাণিতিকভাবেই অনিবার্য। ধরুন, একটা এলাকায় কোনো একটি বিরল রোগে আক্রান্ত মানুষের সংখ্যা ৫। শক্তিশালী প্রাইভেসি সেটিংসে নয়েজ যোগ করলে সেই ৫ হয়ে যেতে পারে ২ কিংবা ৯। অন্যদিকে বড় শহরে, যেখানে একই রোগে আক্রান্ত হাজারো মানুষ আছে, সেখানে একই পরিমাণ নয়েজ সংখ্যাটিকে প্রায় অপরিবর্তিতই রাখে। অর্থাৎ নয়েজ সব জায়গায় সমানভাবে কাজ করলেও তার প্রভাব কিন্তু সব জায়গায় সমান নয়।

.কম্পিউটারের ক্যাবলের মাথায় প্লাস্টিকের মোটা অংশ থাকে কেন.

নয়েজের পরিমাণ নিয়ন্ত্রণ করে একটি প্যারামিটার, যাকে বলা হয় এপসাইলন। এই এপসাইলন যত ছোট হবে, প্রাইভেসি বা গোপনীয়তা তত শক্তিশালী হবে; কিন্তু সেই সঙ্গে নয়েজও তত বাড়বে।

.

২০১৯ সালে এই ঘটনাটা একটি মেশিন লার্নিং মডেলে হুবহু করে দেখান যুক্তরাষ্ট্রের নিউইয়র্ক ইউনিভার্সিটির গবেষক ইউজিন বাগদাসারিয়ান ও তাঁর সহকর্মীরা। তাঁরা ছবি চেনার দুটি মডেল তৈরি করেন। একটি সাধারণভাবে এবং অপরটি ডিফারেনশিয়াল প্রাইভেসি দিয়ে। যে সংখ্যাটার ছবি ডেটাসেটে বেশি ছিল (যেমন ‘২’), দুটি মডেলই সেটা প্রায় সমান নির্ভুলতায় (৯৮-৯৯ শতাংশ) চিনতে পেরেছিল। কিন্তু যে সংখ্যার ছবি কম ছিল (যেমন ‘৮’-এর মাত্র ৫০০টি নমুনা), সাধারণ মডেল সেটা ৯৭ শতাংশ নির্ভুলতায় চিনতে পারলেও প্রাইভেসি-সুরক্ষিত মডেলটি চিনতে পেরেছিল মাত্র ৭৭ শতাংশ। অর্থাৎ একই নয়েজ, কিন্তু কম উপস্থাপিত গ্রুপের ওপর তার নেতিবাচক প্রভাব ছিল বহুগুণ বেশি।

.কৃত্রিম বুদ্ধিমত্তার অদৃশ্য বৈষম্য ও আমাদের ভবিষ্যৎ.

যে সংখ্যার ছবি কম ছিল, সাধারণ মডেল সেটা ৯৭ শতাংশ নির্ভুলতায় চিনতে পারলেও প্রাইভেসি-সুরক্ষিত মডেলটি চিনতে পেরেছিল মাত্র ৭৭ শতাংশ।

.

আদমশুমারিতে যা সত্যি প্রমাণিত হয়েছে

এটি শুধু ল্যাবের কোনো পরীক্ষা নয়। ২০২০ সালে যুক্তরাষ্ট্রের আদমশুমারি ব্যুরো প্রথমবারের মতো পুরো দেশের ডেটাতে ডিফারেনশিয়াল প্রাইভেসি প্রয়োগ করে। তার ফলাফল ছিল ঠিক এই নমুনারই একটি বাস্তব সংস্করণ।

যুক্তরাষ্ট্রের জর্জিয়া স্টেট ইউনিভার্সিটির জে টি মিউলার এবং পেন স্টেট ইউনিভার্সিটির আলেকজান্ডার আর সান্তোস-লোজাদার ২০২২ সালের এক গবেষণায় দেখা গেছে, বড় কাউন্টির মোট জনসংখ্যার হিসাব প্রায় নিখুঁত থাকলেও গ্রামীণ ও ছোট জনগোষ্ঠীর উপাত্তে উল্লেখযোগ্য পার্থক্য তৈরি হয়েছে। মিনিয়াপোলিস ফেডারেল রিজার্ভের সেন্টার ফর ইন্ডিয়ান কান্ট্রি ডেভেলপমেন্টের ২০২৩ সালের এক গবেষণাপত্র অনুযায়ী, মার্কিন আদিবাসী ও আলাস্কা নেটিভ এলাকাগুলোর মধ্যে যেসব উপজাতি গোষ্ঠী আগে বয়স ও লিঙ্গভিত্তিক সম্পূর্ণ তথ্য পেত, তাদের প্রায় ৮০ শতাংশই নতুন নিয়মে আর সেই তথ্য পাবে না। কারণ, তাদের জনসংখ্যা কম হওয়ায় তা বেঁধে দেওয়া সীমার নিচে পড়ে গেছে।

.কৃত্রিম বুদ্ধিমত্তা কি গান বানাতে পারে.

২০২০ সালে যুক্তরাষ্ট্রের আদমশুমারি ব্যুরো প্রথমবারের মতো পুরো দেশের ডেটাতে ডিফারেনশিয়াল প্রাইভেসি প্রয়োগ করে। তার ফলাফল ছিল ঠিক এই নমুনারই একটি বাস্তব সংস্করণ।

.

হুবহু একই জিনিস ঘটেছে স্বাস্থ্যের হিসাবের ক্ষেত্রেও। হাওয়ার ও সান্তোস-লোজাদার ২০২১ সালের গবেষণা দেখিয়েছে, ডিফারেনশিয়াল প্রাইভেসি প্রয়োগ করলে কোভিড-১৯-এর বয়সভিত্তিক মৃত্যুহারে এমন বিকৃতি আসতে পারে যে হিসাব করা মৃত্যুহার ১০০ ভাগের বেশিও দেখাতে পারে! বিশেষ করে হাজারেরও কম জনসংখ্যার গ্রুপগুলোতে। তাঁদের হিসাবমতে, কাউন্টি পর্যায়ের প্রায় ৪০ শতাংশ বয়স-লিঙ্গ গ্রুপ এবং ৬০ শতাংশ জাতিগত গ্রুপ এই মারাত্মক বিকৃতির শিকার হতে পারে। সান্তোস-লোজাদা, হাওয়ার্ড ও ভার্ডেরির ২০২০ সালের আরেকটি গবেষণা আরও নির্দিষ্ট করে দেখিয়েছে, এই বিকৃতি শ্বেতাঙ্গ জনগোষ্ঠীর তুলনায় কৃষ্ণাঙ্গ ও হিস্পানিক জনগোষ্ঠীর মৃত্যুহারের হিসাবে বেশি প্রভাব ফেলে।

এখানে গুরুত্বপূর্ণ ব্যাপারটা হলো, কেউ কিন্তু ইচ্ছা করে এই বৈষম্য বা পক্ষপাত তৈরি করেনি। গণিতটাই এমন। যে গ্রুপে মানুষ কম, সেই গ্রুপে একই পরিমাণ নয়েজের আপেক্ষিক প্রভাব সব সময় বেশি। প্রাইভেসি রক্ষা করার এই পদ্ধতি নিরপেক্ষভাবেই কাজ করে, কিন্তু তার ফলাফল আর নিরপেক্ষ থাকে না।

.কৃত্রিম বুদ্ধিমত্তার ভুল: অ্যালগরিদম কি আসলেই নিরপেক্ষ.

হাওয়ার ও সান্তোস-লোজাদার হিসাবমতে, কাউন্টি পর্যায়ের প্রায় ৪০ শতাংশ বয়স-লিঙ্গ গ্রুপ এবং ৬০ শতাংশ জাতিগত গ্রুপ এই মারাত্মক বিকৃতির শিকার হতে পারে।

.

বাংলাদেশের প্রেক্ষাপটে একটা চিন্তার পরীক্ষা

বাংলাদেশে এখনো জাতীয় স্বাস্থ্য নিবন্ধনে ডিফারেনশিয়াল প্রাইভেসি প্রাতিষ্ঠানিকভাবে প্রয়োগ হয়নি। কিন্তু দেশ যেটাই হোক না কেন, গণিতটা তো একই থাকবে! তাই একে বাংলাদেশের নিজস্ব ও আসল ডেটা দিয়ে একটি চিন্তার পরীক্ষা হিসেবে দেখা যাক।

২০২৩ সালে বাংলাদেশে ডেঙ্গুতে আক্রান্ত হয়েছিল মোট ৩ লাখ ২১ হাজার ১৭৯ জন মানুষ। আর মৃত্যু হয়েছিল ১ হাজার ৭০৫ জনের। ২০০০ সালের পর থেকে সেটাই ছিল সবচেয়ে ভয়াবহ প্রাদুর্ভাব। এর আগের বছরগুলোতে সংখ্যাটা ছিল অনেক কম। যেমন ২০২০ সালে ডেঙ্গুতে আক্রান্তের সংখ্যা ছিল মাত্র ২৫ হাজার ২১৬ জন। এই বড় সংখ্যাগুলো কোনো প্রাইভেসি প্রযুক্তির নয়েজেই হারিয়ে যাবে না। কিন্তু ডেঙ্গুর মধ্যেও কিছু বিরল ও জটিল উপপ্রকার আছে—যেমন ডেঙ্গু হেমোরেজিক ফিভার বা প্লাজমা লিকেজের মতো জটিলতা—যেগুলো একটি নির্দিষ্ট জেলায় হয়তো বছরে হাতে গোনা কয়েকটি কেসেই সীমাবদ্ধ থাকে।

যদি কখনো এই ধরনের ছোট, জেলাভিত্তিক জটিলতার তথ্য শক্তিশালী প্রাইভেসি সুরক্ষার আওতায় প্রকাশ করা হয়, তাহলে ওপরের গবেষণাগুলো যা দেখিয়েছে, তার পুনরাবৃত্তি ঘটার একটি চরম বাস্তব সম্ভাবনা থেকে যায়। অর্থাৎ ছোট সংখ্যাগুলো স্রেফ নয়েজের নিচে চাপা পড়ে যাবে।

এটি একটি আশঙ্কা মাত্র, এখনো প্রমাণিত কোনো সত্য নয়। কিন্তু এই আশঙ্কাটা করার জন্য খুব বেশি কল্পনাশক্তির দরকার নেই, শুধু ওপরের গবেষণাগুলোর সংখ্যাগুলো এক জায়গায় বসিয়ে মিলিয়ে দেখলেই চলে।

.কম্পিউটারের সঙ্গে মস্তিষ্কের নতুন যোগাযোগ.

২০২৩ সালে বাংলাদেশে ডেঙ্গুতে আক্রান্ত হয়েছিলেন মোট ৩ লাখ ২১ হাজার ১৭৯ জন মানুষ। আর মৃত্যু হয়েছিল ১ হাজার ৭০৫ জনের, যা ২০০০ সালের পর থেকে সবচেয়ে ভয়াবহ প্রাদুর্ভাব।

.

গোপনীয়তা এবং দৃশ্যমানতার মধ্যে একটি পছন্দ

এর মানে এই নয় যে আমাদের প্রাইভেসি প্রযুক্তি পুরোপুরি বাদ দিতে হবে। রোগীর তথ্য সুরক্ষা পাওয়াটা একটি মৌলিক অধিকার। আর সেটি ছাড়া তো স্বাস্থ্য ডেটা শেয়ার করাই যেত না। আসল প্রশ্নটা হলো, নয়েজের পরিমাণ সব জায়গায় একই রকম হওয়া উচিত কি না। একটি বড় শহরের সাধারণ রোগের হিসাবের ক্ষেত্রে যতটা নয়েজ নিরাপদ, একটি প্রত্যন্ত জেলার বিরল রোগের হিসাবে ঠিক ততটাই নয়েজ প্রয়োগ করলে ফলাফল কখনোই সমান হয় না।

সংখ্যা দিয়ে মানুষকে সুরক্ষা দেওয়ার এই পদ্ধতিটা তখনই ন্যায্য থাকে, যখন আমরা মনে রাখি যে প্রতিটি ছোট সংখ্যার পেছনে আসলে নির্দিষ্ট কিছু মানুষ আছেন, যাঁরা পরিসংখ্যানের নিয়মে না বুঝেই সবচেয়ে সহজে অদৃশ্য হয়ে যান।

লেখক: গবেষক ও মেশিন লার্নিং বিজ্ঞানী, ট্রাস্টওয়ার্দি এআই

সূত্র: ১. Dwork, C. (2006). Differential Privacy. Proceedings of the 33rd International Colloquium on Automata, Languages and Programming (ICALP).

২. Bagdasaryan, E., Poursaeed, O., & Shmatikov, V. (2019). Differential Privacy Has Disparate Impact on Model Accuracy. Advances in Neural Information Processing Systems (NeurIPS), 32, 15479–15488.

৩. Mueller, J. T., & Santos-Lozada, A. R. (2022). The 2020 US Census Differential Privacy Method Introduces Disproportionate Discrepancies for Rural and Non-White Populations. Population Research and Policy Review, 41(4), 1417–1430.

৪. Hauer, M. E., & Santos-Lozada, A. R. (2021). Differential Privacy in the 2020 Census Will Distort COVID-19 Rates. Socius, 7.

৫. Santos-Lozada, A. R., Howard, J. T., & Verdery, A. M. (2020). How Differential Privacy Will Affect Our Understanding of Health Disparities in the United States. Proceedings of the National Academy of Sciences, 117(24), 13405–13412.

৬. Gregg, M., Trostle, H., & Liebler, C. A. (2023). New 2020 Census Rules Make It Harder to Navigate Native American Data. Federal Reserve Bank of Minneapolis, Center for Indian Country Development, CICD Working Paper 2023-05.

৭. Bhowmik, K. K., et al. (2023). Recent outbreak of dengue in Bangladesh: A threat to public health. Health Science Reports, 6(4), e1210.

৮. Araf, Y., et al. (2024). Emerging health implications of climate change: dengue outbreaks and beyond in Bangladesh. The Lancet Microbe, 5(3), e213.

.এজেন্টিক এআই কীভাবে বদলাচ্ছে চিকিৎসাবিজ্ঞান