İşte nasıl yapılması gerektiği:
Birçok tıbbi algoritma, sınırlı klinik verilerle onaylanmıştır. Bilim insanları bu araçların kimler tarafından ve nasıl test edilmesi gerektiği konusunda tartışmaktadır. Örneğin, Devin Singh, pediatri uzmanı olarak bir çocuk hasta ile ilgilenirken yaşadığı acı deneyimden sonra yapay zekanın bekleme sürelerini kısaltıp kısaltamayacağını araştırmıştır. Toronto'daki SickKids hastanesinde, acil servis verilerini kullanarak AI modelleri geliştirmiştir.
Bu modellerin, hastaların test sonuçlarını 3 saat hızlandırabileceği öne sürülmüştür. Ancak, AI algoritmalarının etkinliği, bu tür bir müdahalenin gerçek yaşamda ne kadar yardımcı olacağını doğrulamak için ilk adımdır.
Tıbbi AI sistemlerini test etmek karmaşık bir süreçtir. Ancak, sadece 2020-2022 yılları arasında 65 rastgele kontrollü deneme yayımlanmıştır. ABD Gıda ve İlaç Dairesi (FDA) gibi düzenleyiciler, hastanelerde kullanılmak üzere yüzlerce AI cihazını onaylamıştır. Bazı hastaneler bu cihazları kendi başlarına test etmektedir.
Yapay zeka uygulamaları genellikle tıbbi cihaz olarak değerlendirilir ve ilaçlardan daha az sıkı kriterlere tabidir. Gary Weissman, FDA onaylı AI cihazlarının çoğunun yayınlanmış veri veya güvenlik değerlendirmesi sunmadığını belirtmiştir.
Bazı hastaneler, AI ürünlerini satın aldıktan sonra ek testler yapmadan hemen kullanmaya başlarlar. Ancak, bazı kurumlar düzenleyici onayının cihazın gerçekten faydalı olduğunu garanti etmediğini kabul ederek kendi testlerini yapmaktadır.
Yapay zeka cihazlarının test edilmesinde dikkat edilmesi gereken diğer bir konu ise ‘uyarı yorgunluğu’dur; kliniklerin yüksek sayıda AI uyarısına alışması, uyarılara karşı duyarsız hale gelmelerine yol açabilir.
AI'nin test edilmesinde bir diğer zorluk ise klinik deneme sonuçlarının farklı popülasyonlara genelleştirilmesidir. AI algoritmaları, eğitim verilerinden farklı veri kullanıldığında hassas olabilir.
Son olarak, AI sistemlerinin test edilmesinde hasta onayı önemli bir konu haline gelmiştir. Örneğin, Singh ve ekibi, çocuk acil servisinde kullanılan bir AI cihazı ile ilgili olarak, ailenin bilgilendirilmiş onayını otomatik olarak almayı planlamaktadır.
Kuruluşlar, bu zorluklarla başa çıkmak için ortaklaşa çözümler geliştirmeye çalışmaktadır.
Örneğin, Mayo Clinic, AI araçlarını standartlaştırılmış bir şekilde test etmeyi hedefleyen bir araştırma programına sahiptir.
Ayrıca, Google, Amazon gibi şirketlerin finansman sağladığı AI Sağlık Koalisyonu, merkezi bir değerlendirme ağı kurmayı önermektedir.
Hiç yorum yok:
Yorum Gönder