Microsoft korporativ müştərilərini xəbərdar edib ki, süni intellekt agentlərinə qarşı daxili təhlükə kimi yanaşmalıdır. Şirkətin rəsmiləri bildirir ki, OpenAI və Anthropic kimi laboratoriyalar tərəfindən idarə olunmayan sistemlərlə işləyən agentlər nəzarətsiz qala bilər və bu, bizneslər üçün ciddi risk yaradır. Bu mövqe süni intellekt sahəsində korporativ təhlükəsizlik yanaşmalarının yenidən nəzərdən keçirilməsinə səbəb olub.
Agent təhlükəsizliyində yeni yanaşma
Microsoft-un təhlükəsizlik qrupu hesab edir ki, müəssisələr işçilərin istifadə etdiyi agentləri diqqətlə izləməlidir. Şirkətin sənədlərində qeyd olunur ki, sözdə “frontier” modellər — yəni ən qabaqcıl süni intellekt modelləri — tam etibarlı hesab edilə bilməz. Buna görə də təşkilatlar agentlərin hansı sistemlərə çıxış əldə etdiyini, hansı əməliyyatları yerinə yetirdiyini və hansı məlumatlara toxunduğunu daim yoxlamalıdır.
Bu yanaşma əslində klassik kibertəhlükəsizlik prinsipinin süni intellekt dövrünə uyğunlaşdırılmasıdır. Əvvəllər daxili təhlükə dedikdə adətən işçilərin səhvən və ya qəsdən törətdiyi zərər nəzərdə tutulurdu. İndi isə eyni məntiq avtonom agentlərə tətbiq olunur: agent nə qədər faydalı olsa da, onun səlahiyyətləri məhdudlaşdırılmalı və davranışı izlənməlidir.
Sektor üçün nəticələr
Microsoft-un bu mövqeyi böyük şirkətlər üçün agent idarəetməsi bazarının sürətlə böyüyəcəyini göstərir. Artıq bir çox müəssisə süni intellekt agentlərini iş proseslərinə inteqrasiya edir, lakin onların nəzarəti üçün yetərli alətlər hələ formalaşmayıb. Bu boşluq həm təhlükəsizlik proqram təminatı tərtibatçıları, həm də audit və uyğunluq xidmətləri üçün yeni imkanlar yaradır.
Ekspertlər hesab edir ki, yaxın dövrdə agentlərin səlahiyyət çərçivəsini müəyyən edən standartlar meydana çıxacaq. Bu standartlar olmadan şirkətlər riskləri tam idarə edə bilməyəcək. Microsoft-un açıqlaması isə bu prosesin başlanğıcını qoyur və rəqibləri də oxşar addımlar atmağa təşviq edir.
Yekun olaraq, süni intellekt agentlərinin korporativ mühitdə geniş yayılması təhlükəsizlik strategiyalarının yenilənməsini tələb edir. Microsoft bunu ilk açıq şəkildə dilə gətirən böyük texnologiya şirkətlərindən biri kimi sektorun gündəmini müəyyən edir.
Mənbə: techcrunch.com
