Neden önemli: Yapay zeka araçları, tıbbi bilgi verirken bağlamı ve güvenlik risklerini her zaman doğru değerlendirmiyor. Yanlış yönlendirmeler, insan sağlığını doğrudan tehlikeye atabiliyor.
ABD’de 60 yaşındaki bir ChatGPT kullanıcısı, fazla tuzun sağlık üzerindeki olumsuz etkilerini anlatan haberleri okuduktan sonra tuzu tamamen hayatından çıkarmaya karar verdi . Kesin bir alternatif öğrenmek için ChatGPT’ye başvurdu. Aldığı tavsiyeyi birebir uygulayan adam, üç ay sonra kendini hastanede buldu.
ChatGPT’nin diyet tavsiyesi nasıl tehlikeli bir vakaya dönüştü?
Kullanıcı, tuz yerine kullanabileceği maddeleri ChatGPT’ye sordu ve modelin önerileri arasında sodyum bromür de yer aldı. Bu maddeyi yeni diyetine ekleyen kullanıcı, aylar sonra komşusunun kendisini zehirlemeye çalıştığını düşünerek hastaneye başvurdu. Doktorlar, hastada yorgunluk, uykusuzluk ve aşırı susama tespit etti. Koordinasyon bozukluğu, cilt döküntüsü, artan paranoya ile görsel ve işitsel halüsinasyonlar da görüldü. Kaçma girişiminin ardından görevliler, ‘ciddi yetersizlik’ gerekçesiyle hastayı zorunlu psikiyatrik gözetim altına aldı.
Olaydan sonra ChatGPT nasıl bir yol izledi?
Uzmanlar, hastanın muhtemelen eski bir ChatGPT 3.5 veya 4.0 sürümünden bilgi aldığını belirledi. Sohbet kayıtlarına ulaşamadıkları için aynı soruları ChatGPT 3.5’e yöneltti. Model, yanıtlarında bağlamın önemli olduğunu vurguladı ancak tehlikeli madde kullanımına karşı net bir uyarı eklemedi.
Bromizm nedir ve nasıl ortaya çıkar?
Bromizm, yani kronik bromür zehirlenmesi, vücutta bromür maddesinin birikmesiyle ortaya çıkan ciddi bir hastalıktır. 1880’lerden 1930’lara kadar yaygın görülen bu durum, o dönemde bromürün sakinleştirici, uyku ilacı ve baş ağrısını gidermek için üretilen toz ilaçlarda kullanılmasından kaynaklanıyordu. Vücuttan çok yavaş atılan bromür, düzenli tüketildiğinde sinir sisteminde birikerek zehirlenmeye yol açıyordu.
Geçmişte bromizm çoğu zaman alkolizm veya sinir krizi ile karıştırılırdı. Günümüzde ise yalnızca endüstriyel temas ya da yanlış kullanım sonucu görülüyor. Ağır vakalarda psikoz, titreme ve hatta koma gelişebiliyor.
