OpenAI ostrzegało przed odkryciem sztucznej inteligencji, która może zagrozić ludzkości

Dzień wcześniej wygnanie Dyrektor generalny OpenAI, Sam Altman, kilku badaczy zatrudnionych w firmie napisało do zarządu list ostrzegający o odkryciu potężnej sztucznej inteligencji, która ich zdaniem „może zagrozić”. ludzkości.” O tym odwołując się do własnych źródeł pisze Reutera.

To właśnie ten list został wymieniony jako jeden z czynników na długiej liście skarg zarządu, które doprowadziły do ​​zwolnienia Altmana. Reutersowi nie udało się osobiście porozmawiać z autorami ani uzyskać komentarza od OpenAI. Jednak po takiej prośbie firma w wewnętrznej wiadomości skierowanej do pracowników ogłosiła istnienie pewnego projektu o nazwie Q* (czyt. Q-Star).

Część pracowników OpenAI uważa, że ​​Q* może być przełomem w tzw ogólna sztuczna inteligencja (AGI). OpenAI charakteryzuje go jako autonomiczny system, który przewyższa człowieka w najbardziej wartościowych ekonomicznie zadaniach.

Jak dotąd, według jednego źródła, Q* potrafi rozwiązywać zadania matematyczne jedynie na poziomie podstawowym. szkół, jednak pomyślne zakończenie takich testów napawa badaczy dużym optymizmem co do perspektyw ich rozwoju rozwój.

Główna różnica między taką sztuczną inteligencją polega na tym, że potrafi ona wyznaczać cele, dzielić złożone problemy na mniejsze, pracować nad szerokim zakresem problemów i znajdować rozwiązania, biorąc pod uwagę kontekst z różnych dziedzin. Mówiąc najprościej, taka inteligencja teoretycznie może zastąpić wysoko wykwalifikowanego specjalistę posiadającego wiedzę, umiejętności i duże doświadczenie.

Naukowcy uważają, że matematyka jest najnowocześniejszym rozwiązaniem w dziedzinie generatywnej sztucznej inteligencji. Dziś jest dobry w pisaniu i tłumaczeniu, statystycznie przewiduje następne słowo, a odpowiedzi na to samo pytanie mogą się znacznie różnić. Jednak pokonanie matematyki (gdzie jest tylko jedna prawidłowa odpowiedź) oznacza, że ​​sztuczna inteligencja będzie miała szersze zdolności rozumowania przypominające ludzką inteligencję. Zdaniem ekspertów można to zastosować na przykład w nowych badaniach naukowych.

W swoim piśmie do zarządu naukowcy zwrócili uwagę na siłę sztucznej inteligencji i potencjalne zagrożenia. Odnotowali także pracę specjalnej grupy „naukowców sztucznej inteligencji”, której istnienie potwierdziły liczne źródła. Zespół bada, jak zoptymalizować istniejące modele sztucznej inteligencji, aby ulepszyć ich rozumowanie i ostatecznie przeprowadzić z nimi prace naukowe, powiedziała jedna z osób.

Altman dołożył wszelkich starań, aby ChatGPT stała się jedną z najszybciej rozwijających się aplikacji na rynku historii i przyciągnął zasoby inwestycyjne i obliczeniowe firmy Microsoft niezbędne do zapewnienia takich rozwiązań AGI. A na krótko przed dymisją na szczycie światowych przywódców w San Francisco zapowiedział kilka „poważnych osiągnięć, które są tuż za rogiem”.

Dzień później zarząd zwolnił Altmana.

Być może pewnego dnia wszystkie te decyzje i wydarzenia staną się podstawą książki, całego filmu, a nawet podręcznika historii.