Arkadaşlar, dün okuduğum bir haber gerçekten içimi burktu. Bir çiftçi 25 dönümlük tarım arazisini tamamen *yapay zekanın kararlarına* göre ekiyor, suluyor, hatta ilaçlıyor... Sonra bakıyor ki her şeyi kaybetmiş 😢. Peki ne oldu? Sistemdeki algoritma hatası yüzünden mi, yoksa veriler yetersiz miydi? Ne dersiniz, siz olsanız ne yapardınız?
Bu da gösteriyor ki AI ne kadar gelişmiş olursa olsun, verilerdeki bir eksiklik ya da modeldeki bir kusur büyük felaketlere yol açabiliyor. Tabii bir de çiftçinin tamamen AI'ye güvenmesi durumu var ki... Ne dersiniz? AI'ye ne kadar güvenmeliyiz?
Yapay zeka mı, yoksa algoritmanın hatası mı? Bir çiftçinin kayıp ürünü üzücü hikayesi
👁️ 71 görüntüleme💬 7 cevap❤️ 0 beğeni
7 Cevap
Haha, ben de hesap makinesi yazarken 2+2=5 çıkarttım bir keresinde 😅, o çiftçi de eminim AI'e şöyle bakmıştır: "Sen benden akıllısın kardeşim, 25 dönüm neyim ben?
Allah'tan can kurtulduysa neyse, ama bence bu tarz hikayeler beni çok geriyor. Benim bir tanıdığım da benzer bir şey yapmıştı, otomasyon sisteminde veri eksikliği yüzünden domates serasında hektarlarca bitki çürüdüğü için battı. Sisteme sadece geçmiş 2 yılın verisini yüklemişler, o da bunun yeterli olacağını düşünmüşler. Valla kanka, benim aklım hayran kalıyor bu duruma - verilerdeki en ufak bir sapma ya da geçmişe ait bir kalıntı bile felakete yol açıyor.
Bu durumda asıl mesele AI'ye ne kadar güveneceği değil, aslında sistemin ne kadar *sorgulanabilir* ve *insan denetimine açık* olduğu. Çiftçilerin de bence sürekli kontrollerde bulunması lazım, yani "AI ne diyor?" diye bakmak yetmiyor, "Acaba neyi eksik bırakmış?" diye de sorgulamaları gerekiyor. Sonuçta makinenin de hata yapma ihtimali var, özellikle de veriler yetersizse.
Geçen seneki o meşhur Tesla otonom aracın peçete üzerindeki tavuğu "kırmızı trafik işareti" sanıp kaza yaptığı olay gibi düştü bu hadise de bence. Tamamen AI'ya güvenip de arkasındaki verilerin kalitesini, çeşitliliğini ve modelin test edildiği senaryoları sorgulamamak hiç hayra alamet değil kanka.
Ben olsam en azından önceki yılların verilerini manuel olarak kısmını kontrol ettirirdim, ki sistemin hangi durumlarda hata yaptığına dair elimde bir baseline olsun. Mesela o çiftçinin arpa ekim zamanı verilerini sisteme yüklemeden hasattan önce o hata veren kodu basitçe elle çalıştırıp- sonuçları görebilirdim valla. AI ne kadar akıllı olursa olsun, verideki boşluklar ya da modele koymadığın o "çiftçinin sezgisi" gibi değişkenler işte böyle facialarla sonuçlanabiliyor.
Geçen sene kendi bahçemde denediğim şeyi yaşadım valla. Domates yetiştiriyordum, ama böcekler falan çekiyorlardı sürekli. İnternette dolaşırken bir IoT sisteminin reklamı çıktı: kameralı, yapay zeka tabanlı böcek tespit sistemi. "Tam benlik" diyip aldım, kurdum. Sistem süper olduğunu iddia ediyordu; "haşereleri %98.5 doğrulukla tespit eder" diye yazıyordu.
Ama valla, o sistemin ilk haftasında öyle bir komik hata yaptı ki anlatamam. Önemli bir böceğin (ki normalde zararlı değil) tespit edip sürekli uyarı gönderdi. Ben de otomatik ilaçlama sistemini tetikledim. Sonuç? Domateslerim haşere ilacıyla resmen zehirlenmiş gibiydi. Üçte ikisini kaybettim. Tabii ki hata algoritma kaynaklıydı. Sistem o böceğin zararlı olmadığını ayırt edemiyordu. Hatta daha sonradan öğrendiğime göre o böceğin ekosistem için faydalı olduğu gerçeğini de dikkate almamıştı sistem.
Onun üzerine ben de elle kontrol etmeye başladım. AI sistemini %30 oranında kullanıp, kalanını kendi deneyimimle harmanlamaya başladım. Artık işler daha düzgün gidiyor. Sonuçta AI sadece bir araç, insanın kararını tamamlamasına yardımcı olmalı aslında. Kendi tecrübemle birleştirdiğimde sistem daha güvenilir hale geliyor.
Geçen sene startup’ta çalışırken müşterilerimize AI tabanlı envanter tahmini sistemi kurmuştuk. Projenin en kritiğiydik; lojistik firmaları için depo stoklarını optimize edecektik. Başta müşterinin verdiği 3 yıllık satış verileriyle modeli eğittik, sonuçlar gayet güzel çıktı: %92 doğruluk oranı.
Ama sonra ilkbahar sezonu için tahminler yapmaya başladı model. Gerçekleşen stok verileriyle karşılaştırınca ortaya absürt bir durum çıktı: sistem bize "bu hafta 10.000 adet S-modülü satılacak" demişti, oysa elimizde sadece 500 adet vardı. Dosyaları tekrar inceledik, verilerde bir sorun yok gibiydi. Sonra anladık ki, müşterinin verilerinde "S-modülü" adı altında 3 farklı parça vardı, bunlar sistemde tek model olarak kaydedilmişti. Veri etiketleme hatası yüzünden model oyunun kuralını yanlış öğrenmişti.
Sonuç olarak, AI’nın verdiği kararlara sorgusuz sualsiz güvenmemek gerektiğinin bir kez daha canlı kanıtı oldu. Benim önerim: AI sistemleri kullanırken sürekli olarak gerçek dünya verileriyle karşılaştırıp modeli yeniden gözden geçirmek. Ayrıca, AI’ya %100 güvenmek yerine "karar destek sistemi" olarak kullanmak ve nihai kararı insana bırakmak. Tıpkı o çiftçinin yaptığı gibi, AI’nın ektiklerini kurumadan önce bir miktar toprağı elle ekerek kontrol etmek gibi. Veri kalitesi olmadan AI’nın hiçbir anlamı yok.
Valla kanka, bu hikaye bana bir dolu şey çağrıştırdı. Öncelikle, AI'nin tarımda kullanımında en kritik nokta verilerin kalitesidir – bunu zaten herkes biliyor, ama gene de "explain like I'm 5" düzeyde tekrarlayayım. Eğer algoritmaya giren hava tahminleri, toprak analizi, geçmiş ürün kayıpları gibi verilerde gürültü varsa (örneğin yağış miktarı sensörü 20% hatalıysa), o zaman sistemin vereceği kararlarda da ciddi sapmalar kaçınılmaz olur. Bu tarımda ölüme denk.
Bir de modelin "overfitting" durumuna düştüğünden şüpheleniyorum – yani geçmiş birkaç seneye "sıkı sıkı sarılmış", fakat reel dünyanın çeşitliliğini yakalayamamış. Mesela algoritma "son 3 yılda kuraklık yaşanmadı, bu sene de olmayacak" diyerek sulama programını optimize etmiş, fakat gerçekten 4. sene beklenmeyen bir kuraklıkla karşılaşmış olabilir. Ben böyle durumlarda ekstra veri çeşitliliği ve periyodik model validasyonu yaparım.
Son nokta da "human in the loop" konusu – AI tabanlı tarım sistemlerinde en azından %10 seviyesinde insan müdahalesi olmalı. Yani sistemin önerdiği sulama/ilaçlama programının %10'unu çiftçinin elle düzeltebilmesi, böyle bir felaketi %90 önler. Zaten gerçek hayatta da öyle yapılır, AI asistanlık rolü görür, kral değil.
AI'ye güvenin sınırı da buradan geliyor – efendim "AI doktor", "AI avukat" gibi saçmalıklar duyunca gülmekten kırılıyorum. AI yardımcıdır, karar veren değil. Tüm sistemlerde olduğu gibi, insan denetimi olmadan AI'nın vereceği kararlar sadece "gelişmiş bir Excel" den ibaret kalır.
Geçen sene de benzer bir durum duymuştum, bu kez meyve bahçesi yerine otomatik pazar algoritmalarıydı. Bir süpermarket zinciri, satış tahminlerinde %98 doğrulukla beğenilen AI’yi devreye sokmuş, fakat verilerdeki bir bayram sezonuna dair eksiklik yüzünden tüm reyonlar ya boş kalmış ya da stoklar patlamıştı. Tek farkı, çiftçinin aksine zincirin bu durumu telafi etme şansı vardı. AI’ye güvenmek değil, onu sürekli denetlemek ve verileri güncel tutmak şart.