به گزارش بانک و صنعت، ویژگی های بیولوژیکی وجود دارد که می تواند سرنخ هایی را برای قومیت افراد ، مانند رنگ چشم یا پوست آنها نشان دهد. اما تشخیص آن برای انسان دشوار است. این ناتوانی در مورد الگوریتم های هوش مصنوعی صادق نیست.
گروهی از محققان پنج مدل مختلف را در مورد اشعه ایکس قسمت های مختلف بدن از جمله قفسه سینه و دست آموزش دادند و سپس هر تصویر را بر اساس نژاد بیمار برچسب گذاری کردند. سپس سیستم های یادگیری ماشینی آزمایش شدند که چگونه می توانند با توجه به اسکن های پزشکی خود نژاد افراد را پیش بینی کنند.
آنها به طرز شگفت انگیزی دقیق بودند. به گفته این روزنامه ، بدترین عملکرد می تواند پاسخ صحیح را در 80 درصد مواقع پیش بینی کند ، و بهترین ها می توانند این کار را 99 درصد انجام دهند.
این تیم اضهار می کند: "ما نشان می دهیم که سیستم های هوش مصنوعی پزشکی می توانند به راحتی یاد بگیرند که هویت نژادی را در تصاویر پزشکی تشخیص دهند و این توانایی برای جدا کردن یا کاهش آن بسیار دشوار است." "
ما اکیداً توصیه می کنیم که همه توسعه دهندگان ، تنظیم کننده ها و کاربرانی که با تجزیه و تحلیل تصویر پزشکی درگیر هستند استفاده از مدل های یادگیری عمیق را با احتیاط بسیار در نظر بگیرند.
در تنظیم داده های تصویربرداری اشعه ایکس و سی تی ، هویت نژادی بیمار به آسانی از طریق داده های تصویری به تنهایی ، به تنظیمات جدید تعمیم می یابد و ممکن است مکانیسم مستقیمی برای تداوم یا حتی تشدید ناهنجاری های نژادی موجود در عمل پزشکی فعلی ارائه دهد.
