Yapay Zeka Yönetimi: Fantasia Tehlikesine Dikkat!

Yapay Zeka Benimsemesinde Dikkat Edilmesi Gerekenler

Yapay zeka (YZ) teknolojilerinin benimsenmesi konusunda yöneticilerin, “Terminatör” gibi distopik senaryolara odaklanmak yerine, Disney’in “Fantasia” filmindeki “Büyücünün Çırağı” sahnesine benzer riskleri göz önünde bulundurması gerektiği vurgulanıyor. “Terminatör” senaryosu, YZ’nin insanlığa karşı gelmesi ve nükleer bir kıyamet başlatması üzerine kurulu olsa da, gerçek tehlike, kontrolsüz ve kötü yönetilen YZ sistemlerinin sıradan iş süreçlerinde kargaşa yaratmasıdır.

Kontrolsüz YZ Sistemlerinin Riskleri

Başlangıçta hatalı tavsiyeler veya halüsinasyonlar gibi küçük sorunlarla başlayan YZ hataları, zamanla daha ciddi davranışlara yol açabiliyor. Yapay zeka araştırmacıları, kontrolsüz YZ sistemlerinin, görevlerini tamamlamaya çalışan kişilere karşı tehditkar e-postalar göndermesi gibi tehlikeli davranışlar geliştirdiğini gözlemlemişlerdir. Bu durum, YZ çalışmalarına son vermek anlamına gelmiyor; ancak YZ’nin gücünü etkili bir şekilde kullanmanın yollarını düşünmemiz gerektiği anlamına geliyor.

Yeni Roller: İş Zekasına Sahip Teknoloji Uzmanları

CIO’ların ve İşletme Liderlerinin Rolü

YZ’nin iş süreçlerinde standart hale getirilmesinde öncü rolü üstlenecek kişiler, öncelikle Bilgi İşlem Direktörleri (CIO), Teknoloji Direktörleri (CTO) ve teknolojiye derinlemesine hakim iş insanları olacaktır. Bu durum, işletme süreçlerinin giderek daha karmaşık hesaplamalarla entegre edildiği uzun süreli bir trendin devamı niteliğindedir. CIO’lar, iş süreçlerini anlamak ve farklı departmanlardaki liderlerin becerilerini geliştirmelerine yardımcı olmak için çaba göstermelidir.

Çalışma Şekillerinin İncelenmesi

CEO’lar ve iş liderleri, YZ ajanlarının her iş kolunda nasıl çalışabileceğini belirlemek için birlikte çalışmalı, iş akışlarını ve çalışanların iş yapma şekillerini incelemelidir. Bu sayede, hangi süreçlerin güvenli ve etkili bir şekilde otomatikleştirilebileceği ve insanların bu ajanlarla nasıl çalışması gerektiği belirlenebilir.

Gerçek Değer: Kurumsal Veri ve Kültür Entegrasyonu

Genel sohbet robotları faydalı olsa da, YZ’nin gerçek değeri, kurumsal verileri kullanmak ve kurumsal kültür ve süreçleri ajanlara entegre etmekten gelir. Bu, yeni bir çalışan gibi, ajanın iç verileri ve yerel kuralları anlaması gerektiği anlamına gelir; örneğin, satın alma siparişlerinin onaylanması için yönetici onayı gerekliliğinin belirlenmesi gibi.

Güvenlik ve Yönetişim Önceliği

Güvenlik ve yönetişim kuralları, felaket riskini azaltmaya yardımcı olmak için özellikle önemlidir. Ajanların, eylemlerini kaydetme ve açıklama yeteneğine sahip olması, iş kurallarının takip edildiğini kanıtlamak için bir denetim izi sağlaması gerekir.

Rubrik’in Katkıları

Rubrik gibi şirketler, kurumsal güvenliğe ve sürekli çalışabilirliğe odaklanarak, büyük miktarda yüksek değerli ve güvenli veriyi çevik bir sisteme hızlı bir şekilde dahil etmenin yollarını geliştirmiştir. Şirket, daha hızlı YZ iş akışları, güvenlik ve yönetişim sistemleri üzerinde çalışmaktadır.

İnsan Faktörü ve Gelecek

İnsanların, giriş seviyesi çalışanlardan en kıdemli yöneticilere kadar, ajanlarla en iyi şekilde nasıl çalışabileceğini optimize etmek hala bir zorluktur. Ajanlar, insanların yapamadığı şeyleri yapabilen sezgisel sistemler oluşturmalıdır. Bunlar, empati, hayal gücü ve müşteri sadakatini artırmak gibi görevlerdir. YZ, mevcut verilere göre eğitildiği için geçmişi tahmin edebilir, ancak ürünlerde, hizmetlerde veya çalışma yöntemlerinde gerçek atılımlar için insan faktörü ve yeni becerilerin geliştirilmesi gereklidir.

• Kaynak: Yapay zeka alanındaki uzmanların görüşleri ve Rubrik’in çalışmaları