Uzun zamandır müşteri hizmetlerinde sohbet botlarını kullanan tanınmış kargo firması DPD, son periyotta yaşanan bir yapay zeka kriziyle gündeme geldi. Şirketin son güncellemesi sonrası, yapay zeka tabanlı sohbet botunda önemli meseleler ortaya çıktı. Bot, bir müşterinin provokatif talebi üzerine beklenmedik bir halde müşteriye hakaretler yağdırıp, kendi firmasını kötülemeye başladı. Bu olayın akabinde, DPD kelam konusu yapay zeka sohbet botunu çabucak devre dışı bıraktı ve yaşanan sorunun kaynağını araştırmaya başladı.
Bir kargo şirketinin yapay zeka sohbet botu müşteriye küfür etti!
Bu tıp bir olay, yapay zekanın insan etkileşimi ve lisan anlayışı hususlarında hala kimi zorluklarla karşı karşıya olduğunu gösteriyor. Yapay zeka sohbet botları, ekseriyetle müşteri sorularını yanıtlamak ve kolay dayanak sağlamak için programlanıyor. Lakin, DPD’nin sohbet botunun bu beklenmedik yansısı, bu çeşit sistemlerin bazen iddia edilemez ve istenmeyen sonuçlar doğurabileceğini ortaya koyuyor.
Olay, birebir vakitte yapay zeka etiği ve güvenliği hususlarındaki tartışmaları da alevlendiriyor. Bu tıp sistemlerin nasıl programlandığı, ne cins datalarla beslendiği ve insan gibisi etkileşimlerde nasıl denetim altında tutulabileceği üzere sorular, yapay zeka topluluğu içinde kıymetli bir sorun haline geliyor.
DPD’nin yaşadığı bu sorun, yapay zeka tabanlı sistemlerin kullanımında dikkatli olunması gerektiğini ve bu sistemlerin daima olarak gözden geçirilmesi ve güncellenmesi gerektiğini de gösteriyor. Şirketin bu sorunu nasıl çözeceği ve bu cins olayların gelecekte nasıl önlenebileceği konusundaki adımları, yapay zeka alanında misal hizmetler sunan başka firmalar için de bir örnek teşkil edebilir.