هشدار سازمان بهداشت جهانی در خصوص خطرات هوش مصنوعی
تاریخ انتشار: ۲۶ اردیبهشت ۱۴۰۲ | کد خبر: ۳۷۷۶۳۹۸۶
به گزارش سازمان بهداشت جهانی (WHO)، این سازمان خواستار احتیاط در استفاده از ابزارهای مدل زبان بزرگ (LLM) تولید شده توسط هوش مصنوعی (AI) برای محافظت و ارتقای رفاه انسان، ایمنی و استقلال انسان و حفظ سلامت عمومی است.
ابزارهای مدل زبان بزرگ ها شامل برخی از پلتفرم های به سرعت در حال گسترش مانند ChatGPT، Bard، Bert و بسیاری دیگر هستند که درک، پردازش و تولید ارتباطات انسانی را تقلید می کنند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
ضروری است که هنگام استفاده از ابزارهای مدل زبان بزرگ که به نام چت ربات های هوش مصنوعی شناخته می شوند، برای بهبود دسترسی به اطلاعات بهداشتی، به عنوان یک ابزار پشتیبانی تصمیم، یا حتی برای افزایش ظرفیت تشخیصی در محیطهای کم منابع برای محافظت از سلامت مردم و کاهش نابرابری، خطرات به دقت بررسی شوند.
در حالی که سازمان بهداشت جهانی مشتاق استفاده مناسب از فناوریها، از جمله چت با هوش مصنوعی، برای حمایت از متخصصان مراقبتهای بهداشتی، بیماران، محققان و دانشمندان است، این نگرانی وجود دارد که احتیاطهایی که معمولاً برای هر فناوری جدید اعمال میشود، به طور مداوم در مورد ابزارهای مدل زبان بزرگ اعمال نمیشود. این شامل گسترش ارزش های کلیدی شفافیت، اخلاق مداری، مشارکت عمومی، نظارت متخصصان و ارزیابی دقیق است.
پذیرش سریع سیستمهای آزمایشنشده میتواند منجر به اشتباهات کارکنان مراقبتهای بهداشتی، آسیب رساندن به بیماران، کاهش اعتماد به هوش مصنوعی و در نتیجه تضعیف (یا تأخیر) مزایای بالقوه بلندمدت و استفاده از چنین فناوریهایی در سراسر جهان شود.
نگرانی هایی که مستلزم نظارت دقیق مورد نیاز برای استفاده از فناوری ها به روش های ایمن، مؤثر و اخلاقی هستند عبارتند از:
دادههای مورد استفاده برای آموزش هوش مصنوعی ممکن است مغرضانه باشد و اطلاعات گمراهکننده یا نادرستی ایجاد کند که میتواند خطراتی برای سلامتی، برابری و فراگیر بودن ایجاد کند.
ابزارهای مدل زبان بزرگ ها پاسخ هایی را تولید می کنند که می توانند برای کاربر نهایی معتبر و قابل قبول به نظر برسند. با این حال، این پاسخ ها ممکن است کاملاً نادرست باشند یا حاوی خطاهای جدی باشند، به ویژه برای پاسخ های مرتبط با سلامت.
ممکن است ابزارهای مدل زبان بزرگ در مورد دادههایی که قبلاً برای چنین استفادههایی رضایت ارائه نشده است آموزش ببینند و ممکن است از دادههای حساس (از جمله دادههای سلامت) که کاربر برای ایجاد پاسخ در اختیار یک برنامه کاربردی قرار میدهد، محافظت نکنند.
از چت بات ها می توان برای تولید و انتشار اطلاعات نادرست بسیار قانع کننده در قالب محتوای متنی، صوتی یا ویدیویی استفاده نادرست کرد که تشخیص آن برای عموم از محتوای سلامت قابل اعتماد دشوار است.
در حالی که بهداشت جهانی متعهد به استفاده از فناوریهای جدید، از جمله هوش مصنوعی و سلامت دیجیتال برای بهبود سلامت انسان است، سازمان بهداشت جهانی توصیه میکند که سیاستگذاران از ایمنی و محافظت از بیمار اطمینان حاصل کنند، در حالی که شرکتهای فناوری برای تجاریسازی ابزارهای مدل زبان بزرگ (چت بات های هوش مصنوعی) تلاش میکنند.
سازمان بهداشت جهانی پیشنهاد میکند که به این نگرانیها رسیدگی شود، و شواهد واضحی از منافع قبل از استفاده گسترده از آنها در مراقبتهای بهداشتی و پزشکی معمول، چه توسط افراد، چه ارائهدهندگان مراقبتها یا مدیران سیستم سلامت و سیاستگذاران، اندازهگیری شود.
سازمان بهداشت جهانی بر اهمیت به کارگیری اصول اخلاقی و حکمرانی مناسب، همانطور که در راهنمای سازمان بهداشت جهانی، در مورد اخلاق و حکمرانی هوش مصنوعی برای سلامت، در هنگام طراحی، توسعه و استقرار هوش مصنوعی برای سلامت برشمرده شده است، تاکید می کند.
۶ اصل اصلی شناسایی شده توسط سازمان بهداشت جهانی عبارتند از: (۱) حفاظت از خودمختاری. (۲) ارتقاء رفاه انسان، ایمنی انسان، و منافع عمومی. (۳) شفافیت، توضیح پذیری و قابل فهم بودن را تضمین کند. (۴) مسئولیت پذیری و مسئولیت شناسی را تقویت کند. (۵) از فراگیری و برابری آن اطمینان حاصل شود. (۶) هوش مصنوعی پاسخگو و پایدار را ارتقا دهید.
منبع: اکوفارس
کلیدواژه: بانک مرکزی افزایش قیمت شاخص بورس طلای جهانی قیمت روز خودرو سازمان بهداشت جهانی هوش مصنوعی فناوری ها مراقبت ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت ecofars.com دریافت کردهاست، لذا منبع این خبر، وبسایت «اکوفارس» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۷۶۳۹۸۶ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
چاقوی هوش مصنوعی چگونه نظام سلامت را جراحی میکند
به گزارش خبرنگار مهر؛ در سالهای اخیر، ظهور فناوری هوش مصنوعی مولد و ادغام این فناوری انقلابی در صنایع مختلف، فرآیندها و نتایج را در همه ابعاد زیست و فعالیت بشر متحول کرده است. یکی از مهمترین حوزههایی که هوش مصنوعی در آن تأثیر عمیقی داشته و بسیاری از فرایندهای جاری آن را دستخوش تغییر شدید کرده، سلامت دیجیتال و پزشکی است.
به عقیده بسیاری از کارشناسان، در مقطع کنونی و به واسطه ظهور فناوری هوش مصنوعی، انقلاب علمی و فنی دیگری در صنعت مراقبتهای سلامت و پزشکی درحال وقوع است. به گواه بسیاری از اعضای جامعه سلامت و کاربران، این فناوری در حال تغییر حوزه بهداشت و بهبود کیفیت خدمات و نتایج درمانهای پزشکی است. از همین روی، استفاده از دستگاهها و سیستمهای مبتنی بر این فناوری برای تشخیص بیماریها به شدت در حال افزایش بوده و فرایندهای هوشمندسازی بخش سلامت در بسیاری از کشورهای جهان روند صعودی گرفته است.
در این نوشتار کوتاه به بررسی کاربرد هوش مصنوعی در تغییر چشم انداز مراقبتهای بهداشتی میپردازیم.
در تعریف کلی، هوش مصنوعی به شبیه سازی فرآیندهای هوش انسانی توسط ماشینها از طریق سیستمهای کامپیوتری اشاره دارد. بر همین مبنا، الگوریتمهای هوش مصنوعی میتوانند دادهها را تجزیه و تحلیل کنند، از آنها بیاموزند و بر اساس اطلاعات جمعآوریشده تصمیمگیری و پیشبینی کنند. از سوی دیگر، سلامت دیجیتال شامل استفاده از فناوری برای بهبود ارائه مراقبتهای بهداشتی، تشخیص، نظارت و درمان است. در عصر حاضر و با پیشرفت شگرف فناوری، بسیاری از حوزهها از سوابق الکترونیکی سلامت گرفته تا دستگاههای پوشیدنی، کارآمدی نظام سلامت را افزایش داده و راهحلهای سلامت دیجیتال به شیوههای مدرن مراقبتهای بهداشتی تبدیل شدهاند.
با عنایت به این قابلیت هوش مصنوعی، فناوری مذکور در مراقبتهای بهداشتی این پتانسیل را دارد که کارآمدی تصمیمات بالینی را افزایش دهد، نتایج درمان بیمار را بهبود بخشد و به صورت کلی عملیات را ساده کند. از همین روی میتوان نتیجه گرفت که ادغام هوش مصنوعی با حوزه سلامت، قابلیتهای سیستمهای سلامت دیجیتال را بیشتر میکند و ارائه مراقبتهای کارآمدتر و مؤثرتر را ممکن میسازد.
فناوری هوش مصنوعی میتواند در راستای غلبه بر بسیاری از چالشهای حوزه مراقبتهای بهداشتی، امکاناتی همچون دسترسی سریع به پزشکی و تشخیص از راه دور و برنامههای درمانی شخصی را به کاربران ارائه دهد. فناوری مذکور همچنین به شناسایی گسترش و پیشبینی شیوع بیماریها کمک میکند. استفاده از هوش مصنوعی در مراقبتهای بهداشتی مزایای متعددی را به کاربران و پزشکان ارائه میدهد. از جمله این مزایا میتوان به موارد زیر اشاره کرد:
تشخیص بهبود یافته بیماریها با یادگیری ماشینی
الگوریتمهای هوش مصنوعی میتوانند تصاویر پزشکی، نتایج آزمایشها و دادههای بیمار را تجزیه و تحلیل کنند و با نتیجهگیری مبتنی بر دادهها به ارائه دهندگان مراقبتهای پزشکی در تشخیص دقیق کمک کنند.
شخصیسازی درمان با ابزار هوشمند
ابزارهای متعدد مبتنی بر هوش مصنوعی میتوانند به تنظیم برنامههای درمانی شخصیسازی شده و بهینه برای بیماران بر اساس ویژگیهای منحصر به فرد و سابقه پزشکی آنها کمک کنند. بیماران با این ابزار میتوانند به تناسب شرایط خود، از امکانات و مراقبتهای مختص به خود برخوردار شوند.
امور اداری برای کادر درمان آسان می شود
سیستمهای مجهز به هوش مصنوعی میتوانند وظایف اداری را به طور خودکار انجام دهند. از همین روی، استفاده از چنین ابزاری زمان بندی را برای کادر درمان بهینه میسازد، گردش کار را ساده میکند و در مجموع به ارائه دهندگان خدمات بهداشتی اجازه میدهند که بر مراقبت از بیمار تمرکز بیشتری داشته باشند.
تشخیص زودهنگام تا مداخله پیشگیرانه
هوش مصنوعی میتواند مجموعه کلان دادهها را برای شناسایی الگوها و روندها تجزیه و تحلیل کند و امکان تشخیص زودهنگام بیماری و عارضههای جسمی و مداخلات پیشگیرانه برای درمان را فراهم کند.
هوش مصنوعی و شخصیسازی پزشکی
هدف پزشکی شخصی سازی شده درمان متناسب با ویژگیهای فردی مانند ژنتیک، سبک زندگی و محیط است. هوش مصنوعی با تجزیه و تحلیل مقادیر زیادی از دادههای بیمار برای شناسایی استراتژیهای درمانی بهینه برای افراد خاص، نقش مهمی در این حوزه ایفا میکند. با در نظر گرفتن تغییرات ژنتیکی، نشانگرهای زیستی و سایر عوامل، هوش مصنوعی میتواند به ارائهدهندگان مراقبتهای بهداشتی کمک کند تا درمانهای هدفمندتر و مؤثرتری به بیماران خود ارائه دهند.
تسریع کشف دارو
فرآیند کشف دارو برای شرکتهای داروسازی و متخصصان زمان بر و پرهزینه است و بسیاری از نامزدهای دارویی بالقوه در رسیدن به محصول نهایی و عرضه به بازار ناکام هستند. در چنین شرایطی هوش مصنوعی با تسریع در شناسایی نامزدهای دارویی امیدوارکننده، پیشبینی تداخلات دارویی و بهینهسازی آزمایشهای بالینی، فرآیند کشف دارو را متحول میسازد. با تجزیه و تحلیل ساختارهای مولکولی، مسیرهای بیولوژیکی و دادههای بالینی، هوش مصنوعی میتواند توسعه داروها و درمانهای جدید را تسریع کند.
پزشکی از راه دور نزدیک میشود
پزشکی از راه دور به بیماران این امکان را میدهد که مراقبتهای پزشکی را از راه دور دریافت کنند و نیاز به مراجعه حضوری به مراکز درمانی را از بین میبرد. هوش مصنوعی خدمات پزشکی از راه دور را با فعال کردن مشاوره مجازی، نظارت از راه دور بر علائم حیاتی بیماران و تجزیه و تحلیل پیشبینیکننده برای مداخله زودهنگام افزایش میدهد. با استفاده از چت رباتها و دستیاران مجازی مبتنی بر هوش مصنوعی، ارائه دهندگان مراقبتهای بهداشتی میتوانند مراقبتهای شخصی را در هر زمان و هر مکان به بیماران ارائه دهند.
هوش مصنوعی در پایش سلامت
دستگاههای پوشیدنی و حسگرهای مجهز به فناوری هوش مصنوعی، نظارت مستمر سلامت و تجزیه و تحلیل دادهها را در زمانی اندک امکانپذیر میکنند. این دستگاهها میتوانند علائم حیاتی، سطح فعالیت و الگوهای خواب را رصد کنند و بینشهای ارزشمندی را در مورد وضعیت سلامتی بیماران به پزشکان ارائه دهند. الگوریتمهای هوش مصنوعی میتوانند انحرافات از الگوهای عادی را تشخیص دهند و به ارائهدهندگان مراقبتهای بهداشتی در مورد مسائل بالقوه سلامتی هشدار دهند و امکان مداخلات به موقع و مراقبتهای پیشگیرانه را فراهم کنند.
بهبود مراقبت های روانی
هوش مصنوعی همچنین در زمینه سلامت روان برای بهبود تشخیص و درمان اختلالات سلامت روان مورد استفاده قرار میگیرد. ابزارهای مجهز به هوش مصنوعی میتوانند الگوهای گفتار، حالات چهره و سایر نشانههای رفتاری را برای ارزیابی وضعیت سلامت روانی بیماران تجزیه و تحلیل کنند. با ارائه توصیههای درمانی شخصی و نظارت بر پیشرفت بیماران در طول زمان، هوش مصنوعی میتواند ارائه مراقبتهای بهداشت روانی و نتایج را بهبود بخشد.
چالشهای ادغام هوش مصنوعی در بهداشت و درمان
همان طور که پیشتر ذکر شد، بی شک هوش مصنوعی تحولی بدیع در حوزه مراقبتهای بهداشتی ایجاد کرده است؛ اما علیرغم مزایای بالقوه ادغام هوش مصنوعی در این بخش، پیاده سازی و استفاده از آن در حوزه مذکور بدون چالش نیست. در ادامه به برخی از چالشهای کلیدی این حوزه میپردازیم.
حریم خصوصی و امنیت دادهها
دادههای مستخرج از فعالیت بخش مراقبتهای بهداشتی، از جمله اطلاعات بیماران و وضعیت سلامتی شهروندان بسیار حساس هستند. همین امر، اطمینان از حفظ حریم خصوصی و امنیت دادهها در هنگام استفاده از سیستمهای هوش مصنوعی در این حوزه را بسیار مهم و حیاتی میکند.
هوش مصنوعی و چالش تطابق با مقررات
مقررات و استانداردهای مراقبتهای بهداشتی نیز مانند همه حوزههای دیگر باید هنگام توسعه و استقرار ابزارهای مبتنی بر هوش مصنوعی در محیطهای بالینی مورد بازنگری قرار گرفته و پس از به روز رسانی به صورت دقیق اجرا شوند. عدم توجه به این مسئله، میتواند منجر به عدول از استانداردها و بروز برخی مشکلات در این بخش حساس شود.
ادغام ابزارهای مبتنی بر فناوری هوش مصنوعی با سیستمها و انطباق آنها با فرایندهای کاری سنتی، بدون در نظر گرفتن ملاحظات و الزامات پیشنیاز، میتواند بسیار پیچیده و زمانبر باشد و چالشهایی برای نظام سلامت ایجاد کند.
نگرانیهای اخلاقی
در نهایت میتوان گفت که استفاده از هوش مصنوعی در بخش مراقبتهای بهداشتی، مسائل اخلاقی بغرنجی مربوط به رضایت بیمار، سوگیری در الگوریتمها و پاسخگویی در قبال تصمیمات اتخاذ شده توسط سیستمهای هوش مصنوعی را در پی دارند. بی شک رسیدگی به این مسئله حساس، مستلزم مطالعات دقیق و اتخاذ تدابیر لازم جهت کاهش ملاحظات مذکور است.
نقش ناظران انسانی در تشخیص کمرنگ می شود
هوش مصنوعی در بهبود دقت و کارایی تشخیصی نویدبخش پیشرفت بسیار بزرگی است. الگوریتمهای هوش مصنوعی میتوانند تصاویر پزشکی اشعه ایکس، ام آر آی و سی تی اسکن را برای تشخیص ناهنجاریها تجزیه و تحلیل کنند و به رادیولوژیستها در تشخیص یاری دهد. با استفاده از تکنیکهای یادگیری ماشینی و یادگیری عمیق، هوش مصنوعی میتواند به شناسایی الگوها و ناهنجاریهایی که ممکن است توسط ناظران انسانی و پزشکان نادیده گرفته شود، کمک کند.
آینده ادغام هوش مصنوعی در مراقبتهای بهداشتی
به عقیده کارشناسان، آینده هوش مصنوعی در بخش مراقبتهای بهداشتی دارای پتانسیل بسیار زیادی برای تغییر روش ارائه و تجربه کاربران است. پیشرفتهای حاصل شده در فناوری هوش مصنوعی، مانند پردازش زبان طبیعی، تجزیه و تحلیل پیشبینیکننده و اتوماسیون رباتیک فرآیندها به نوآوری در مراقبتهای بهداشتی ادامه خواهند داد. از برنامههای درمانی شخصی گرفته تا جراحی با کمک هوش مصنوعی، امکانات این فناوری در مراقبتهای بهداشتی نامحدود یا حداقل بسیار پرشمار به نظر میرسد.
از همین روی میتوان نتیجه گرفت که کاربرد هوش مصنوعی در سلامت دیجیتال و پزشکی در حال تغییر شکل صنعت مراقبتهای بهداشتی و بهبود نتایج بیماران است. هوش مصنوعی روش ارائه مراقبتهای بهداشتی را متحول کرده و آن را کارآمدتر، مؤثرتر و بیمار محورتر میکند. در حالی که چالشهایی در پیادهسازی هوش مصنوعی در مراقبتهای بهداشتی وجود دارد، مزایای آن بسیار بیشتر از خطرات آن است و راه را برای آیندهای هموار میکند که در آن هوش مصنوعی نقشی محوری در پیشرفت شیوههای مراقبتهای بهداشتی و بهبود کیفیت مراقبت برای همه ایفا میکند.
کد خبر 6075146