OpenAI’den açıklama gelirken uzmanlar, yapay zekâya körü körüne güvenilmemesi konusunda uyardı.
YAPAY ZEKA TAVSİYESİ HASTANEYE GÖTÜRDÜ

ABD’de yaşayan 60 yaşındaki bir adam, popüler yapay zekâ botu ChatGPT’ye danıştıktan sonra sofra tuzunu (sodyum klorür) bırakıp yerine sodyum bromür kullanmaya başladı. Tıp dergisinde yayımlanan vaka raporuna göre, üç ay süren bu deneyin ardından adam ağır sağlık sorunları nedeniyle üç hafta boyunca hastanede tedavi gördü.

PARANOYA HALİSÜNASYONLAR GELİŞTİ

Raporda, hastanın “komşusunun kendisini zehirlediği” endişesiyle hastaneye başvurduğu, kısa sürede paranoya, işitsel ve görsel halüsinasyonlar geliştirdiği belirtildi. Daha önce psikiyatrik geçmişi olmayan hasta, kaçma girişiminde bulunmasının ardından istemsiz psikiyatrik gözetim altına alındı. Testler sonucunda ise yüksek bromür seviyeleri nedeniyle “bromizm” teşhisi kondu.

“KİŞİSEL DENEY” HAYATINI TAHLİKEYE ATTI

Adam, sofra tuzunun zararlı etkileri olduğuna dair bilgiler okuduktan sonra “kişisel bir deney” yapmaya karar verdiğini açıkladı. Bu süreçte ChatGPT’den aldığı öneriyle üç ay boyunca sodyum bromür kullandığını belirtti. Washington Üniversitesi’nden doktorlar, hastanın sohbet kayıtlarına ulaşamadıklarını ancak kendi testlerinde ChatGPT 3.5’in bromürü önerdiğini ve sağlık uyarısı yapmadığını aktardı.

OPENAI’DEN AÇIKLAMA: “TEDAVİ İÇİN KULLANILMAMALI”

ChatGPT’nin geliştiricisi OpenAI, hizmet şartlarında sistemin sağlık sorunlarının tedavisinde kullanılmaması gerektiğini vurguladı. Şirket, yapay zekânın profesyonel destek almayı teşvik edecek şekilde tasarlandığını ve güvenlik önlemlerinin sürekli geliştirildiğini açıkladı.

BROMÜR TOKSİTESİ: NADİR AMA ÖLÜMCÜL

Vaka raporunda, bromür toksisitesinin 1900’lü yıllarda reçetesiz ilaçlarda yaygın olduğu, hatta psikiyatrik vakaların %8’ine sebep olduğu belirtildi. Günümüzde ise bromür tuzu, veteriner hekimlikte epilepsi tedavisinde kullanılıyor. Ancak internet üzerinden erişim kolaylığı nedeniyle bu tür zehirlenme vakalarının yeniden artabileceği ifade edildi.

UZMANLARDAN KRİTİK UYARI

Doktorlar, yapay zekâ botlarının sağlık önerilerinin riskli olabileceğini, kesinlikle hekim görüşü olmadan tıbbi karar verilmemesi gerektiğini vurguladı. Bu vaka, yapay zekânın yanlış kullanımının ciddi sağlık sorunlarına yol açabileceğinin çarpıcı bir örneği olarak kayıtlara geçti.

Kaynak: Haber Merkezi