Yapay zekâ, sağlık hizmetlerinden pazarlamaya kadar çok çeşitli sektörlerde devrim yaratıyor. Eğitimde bu alanlardan bir tanesi. Yapay zekâ destekli ders uygulamaları hızla yaygınlaşıyor. Öğrencilere kişiselleştirilmiş öğrenme fırsatı sunan bu araçlar, aynı zamanda güvenlik, gizlilik ve çocukların bilişsel gelişimi açısından yeni riskleri de beraberinde getiriyor.
Yapay zekâ özel ders pazarı hızla büyüyor
Yapay zekâ destekli özel ders araçları pazarı hızla büyüyor. Bir tahmine göre, bu pazarın 2025 ile 2033 yılları arasında yaklaşık 2 milyar dolardan 17,7 milyar doların üzerine çıkması bekleniyor. İngiliz hükümeti, eğitim teknolojisi ve yapay zekâ şirketlerini çoktan sınıflar için araçlar tasarlamaya davet etti. Hükümet, yapay zekânın özel öğretmen tutacak maddi imkânı olmayan ailelere yardımcı olabileceğini belirterek, 450 bin kadar dezavantajlı öğrencinin bundan faydalanabileceğini iddia ediyor.
Pazar hızla olgunlaşıyor. Günümüzde satın alabileceğiniz ve kullanabileceğiniz çeşitli türlerde yapay zekâ özel öğretmen araçları bulabilirsiniz. “Yapay zekâ özel öğretmeni” terimi, oldukça geniş bir ürün yelpazesine uygulanıyor. Bazıları eğitim etiketi taşıyan genel amaçlı sohbet robotlarından biraz daha fazlası iken diğerleri müfredat etrafında yapılandırılmış öğrenme sistemleridir. Piyasada basit sohbet robotlarından müfredata göre çalışan Akıllı Özel Ders Sistemlerine (ITS) kadar farklı çözümler bulunuyor. En gelişmiş sistemler öğrenciye doğrudan cevabı vermek yerine ipuçlarıyla öğrenmeyi destekliyor ve uygunsuz içerik riskini azaltıyor.
Yapay zekâ öğretmenler gerçekten işe yarıyor mu?
Bunların işe yarayıp yaramadığı konusunda henüz kesin bir karar verilmemiştir. Kanıtlar bazı yönlerden umut vericidir ancak yapay zekâ öğretmenlerin her ortamda öğrenmeyi iyileştireceği yönündeki genel iddiaları desteklemiyor gibi görünmektedir. Bazen bu teknoloji durumu daha da kötüleştirebilir. İngiltere’de yakın zamanda yapılan bir çalışmada, öğretmenlerin üçte ikisi, yapay zekâ kullanımına bağlı olarak öğrencilerde yazma ve problem çözme becerilerinde bir düşüş gözlemlediklerini belirtti.
Ayrı bir çalışma ise “sık yapay zekâ aracı kullanımı ile eleştirel düşünme becerileri arasında önemli bir negatif korelasyon” olduğunu ortaya koyuyor. Çalışma, çocuklara özel ders vermek amacıyla yapay zekâ kullanımının “kullanıcıların derin ve yansıtıcı düşünme süreçlerine katılımını istemeden azaltabileceğini” belirtiyor. Bu, çocukları yapay zekâ araçlarını kullanmaya teşvik etmenin getirdiği en büyük gelişimsel risklerden biridir. Yapay zekâ bir cevabı çok hızlı veriyorsa ya da en azından süreci öğrenen için çok kolaylaştırıyorsa çocuklarda uzun vadede zararlı olabilecek bir bilişsel tembellik gelişebilir.
Başka potansiyel psikososyal riskler de bulunmaktadır. Çocuklar, kendinden emin konuşan yapay zekâ öğretmenlere aşırı güven duymaya başlayabilir ve yetişkinlere kıyasla halüsinasyonlara daha kolay kanabilirler. Hatta onları adeta arkadaşlarıymış gibi görmeye başlayabilirler; bu da akran gruplarıyla kurdukları duygusal bağları zayıflatabilir. Yapay zekâ ayrıca birçok açıdan yetersiz bir öğretmendir. Bir sorunun “cevabını” biliyor olabilir ancak öğrenme deneyiminden dolayı hayal kırıklığına uğramış bir çocuğu idare etme becerisinden yoksun olabilir. Bir insan öğretmenin empati ve sosyal becerilerini bir makinenin taklit etmesi imkânsız olmasa da çok zordur.
Yapay zekâ güvenlik ve gizlilik riskleri
Kısıtlamasız sohbet robotları ve benzeri araçları kullananlar için sohbetlerin yaşa uygun olmayan konulara sapma riski bulunuyor. Bir yapay zekâ öğretmen, bir çocuğun cevaplarından çok daha fazlasını toplayabilir. Ürüne bağlı olarak, sorular, okul ödevleri, performans verileri, ilgi alanları, hesap bilgileri, cihaz tanımlayıcıları ve ses kayıtlarını saklayabilir. Model ile paylaşılan her şey, eğitim amaçlı kullanılabilir ve muhtemelen diğer kullanıcılara sızabilir.
Ayrıca reklamverenler ve diğer üçüncü taraflarla da paylaşılabilir. Bu durum sadece bir gizlilik riski oluşturmakla kalmaz; model sağlayıcısının veya çocuğunuzun verilerini elinde bulunduran güvenilir üçüncü taraflardan birinin güvenlik ihlali yaşaması hâlinde tam anlamıyla bir güvenlik sorununa dönüşebilir. Sesle etkinleştirilen bir araç söz konusuysa sağlayıcı çocuğunuzun biyometrik verilerine sahip olacaktır ve hackerlar bu verileri çocuğunuzun kimliğiyle ilişkilendirebilirlerse bu veriler son derece değerli hâle gelebilir.
