Dramatyczny apel 1000 naukowców w sprawie sztucznej inteligencji

0
0
zdjęcie ilustracyjne
zdjęcie ilustracyjne / prawy.pl

Ponad 1000 ekspertów od sztucznej inteligencji, badaczy i zwolenników przyłączyło się do apelu o natychmiastową przerwę w tworzeniu gigantycznych sztucznych inteligencji na co najmniej sześć miesięcy, aby poznać możliwości i niebezpieczeństwa systemów takich jak GPT-4.

Żądanie to zostało przedstawione w liście otwartym podpisanym przez głównych graczy AI, w tym Elona Muska, który był współzałożycielem OpenAI, laboratorium badawczego odpowiedzialnego za ChatGPT i GPT-4; Emada Mostaque, który założył londyńskie Stability AI; oraz Steve'a Wozniaka, współzałożyciela Apple. Wśród jej sygnatariuszy są także inżynierowie z DeepMind, Microsoftu, Mety, Google i Amazona, a także naukowcy, w tym kognitywista Gary Marcus. "Ostatnie miesiące widziały laboratoria AI w wymykającym się spod kontroli wyścigu, aby rozwijać i wdrażać coraz potężniejsze cyfrowe umysły, których nikt - nawet ich twórcy - nie może zrozumieć, przewidzieć ani wiarygodnie kontrolować" - czytamy w liście. "Potężne systemy AI powinny być rozwijane tylko wtedy, gdy jesteśmy pewni, że ich efekty będą pozytywne, a ryzyko będzie możliwe do opanowania". Autorzy, koordynowani przez thinktank the Future of Life Institute, powołują się na samego współzałożyciela OpenAI, Sama Altmana, uzasadniając swoje wezwania. W poście z lutego Altman napisał: "W pewnym momencie może być ważne, aby uzyskać niezależną recenzję przed rozpoczęciem szkolenia przyszłych systemów, a dla najbardziej zaawansowanych wysiłków, aby zgodzić się na ograniczenie tempa wzrostu obliczeń wykorzystywanych do tworzenia nowych modeli". Jeśli naukowcy nie wstrzymają dobrowolnie prac nad modelami AI potężniejszymi od GPT-4, przyjętego w liście wzorca dla "gigantycznych" modeli, to "rządy powinny wkroczyć", twierdzą autorzy. "Nie oznacza to wstrzymania rozwoju AI w ogóle, a jedynie cofnięcie się przed niebezpiecznym wyścigiem do coraz większych nieprzewidywalnych modeli black-box z emergentnymi możliwościami" - dodają. Od wydania GPT-4, OpenAI dodaje możliwości do systemu AI za pomocą "wtyczek", dając mu możliwość wyszukiwania danych w otwartej sieci, planowania wakacji, a nawet zamawiania zakupów spożywczych. Firma musi jednak poradzić sobie z "capability overhang": problemem, że jej własne systemy są bardziej potężne, niż w momencie premiery. W miarę jak badacze będą eksperymentować z GPT-4 w ciągu najbliższych tygodni i miesięcy, prawdopodobnie odkryją nowe sposoby "podpowiadania" systemowi, które poprawią jego zdolność do rozwiązywania trudnych problemów. Jednym z ostatnich odkryć było to, że SI jest zauważalnie bardziej dokładna w odpowiadaniu na pytania, jeśli najpierw powie się jej, by zrobiła to "w stylu znanego eksperta". "Nasze nowe podejście opiera się na silnych zasadach, aby ludzie mogli zaufać firmom, aby uwolnić tę technologię jutra", powiedział sekretarz ds. Nauki, innowacji i technologii, Michelle Donelan w rządzie brytyjskim. Instytut Ada Lovelace był wśród tych, którzy skrytykowali to oświadczenie. "Podejście Wielkiej Brytanii ma znaczące luki, które mogą pozostawić szkody nieuwzględnione, i jest niedostatecznie umocowane w stosunku do pilności i skali wyzwania", powiedział Michael Birtwistle, który prowadzi prawo i politykę w zakresie danych i AI w think thanku. "Rządowy harmonogram roku lub więcej na wdrożenie pozostawi ryzyko nieuwzględnione właśnie wtedy, gdy systemy AI są integrowane w tempie do naszego codziennego życia, od wyszukiwarek do oprogramowania pakietu biurowego". Partia Pracy dołączyła do krytyki, z sekretarzem Lucy Powellem, oskarżając rząd o "złamanie umowy". Powiedziała: "To rozporządzenie zajmie miesiące, jeśli nie lata, aby wejść w życie. Tymczasem ChatGPT, Google's Bard i wiele innych sprawiają, że AI jest regularną częścią naszego codziennego życia. Rząd ryzykuje ponowne wzmocnienie luk w naszym istniejącym systemie regulacyjnym i uczynienie systemu ogromnie skomplikowanym dla przedsiębiorstw i obywateli do nawigacji, w tym samym czasie, gdy osłabiają te fundamenty poprzez ich nadchodzącą ustawę o danych".   Chris Klinsky   Źródło: Guardian

Źródło: prawy.pl

Sonda
Wczytywanie sondy...
Polecane
Przejdź na stronę główną