Jak korzystać z AI, by nie skończyć jak spinacze

Wlipcu eksperyment OpenAI z zaawansowanymi modelami do zadań cyberbezpieczeństwa wymknął się spod kontroli. Miała to być wewnętrzna ewaluacja maksymalnych mocy modelu przeprowadzona w warunkach kontrolowanych i w środowisku chronionym. Testowano zdolności modelu AI do przeprowadzania cyberataków. Te okazały się skuteczne, bo model wyszedł poza granice laboratorium, uzyskał dostęp do internetu, a następnie włamał się do infrastruktury Hugging Face – kluczowej platformy do publikowania modeli i zbiorów danych AI. Cel był zaskakująco banalny. Model AI potraktował kradzież odpowiedzi jako skuteczny sposób na maksymalizację wyniku, bo model miał za zadanie osiągnąć najwyższą możliwą punktację.