Demokratyczne OpenAI

Laboratorium sztucznej inteligencji OpenAI, wspierane przez Microsoft (MSFT.O), ogłosiło w swoim ostatnim poście na blogu utworzenie nowego zespołu, którego zadaniem będzie tworzenie demokratycznych procesów kształtujących sposób zarządzania oprogramowaniem AI. Celem jest między innymi adresowanie problemów takich jak stronniczość.

Zespół "Collective Alignment" jest kontynuacją programu grantowego na eksperymenty z demokratycznymi procesami, który został ogłoszony w maju 2023 roku przez firmę z siedzibą w San Francisco. Program ten zakończył się niedawno.

„W miarę jak kontynuujemy naszą misję w kierunku modeli superinteligentnych, które potencjalnie mogą być postrzegane jako integralne części naszego społeczeństwa... ważne jest, aby dać ludziom możliwość bezpośredniego wpływu,” powiedziała Tyna Eloundou, inżynierka badawcza i założycielka nowego zespołu OpenAI, w rozmowie z Reuters.

Aby na przykład zapewnić, że tylko ludzie mogą głosować, OpenAI może współpracować z Worldcoin, projektem kryptowalutowym założonym przez CEO OpenAI, Sama Altmana, który umożliwia rozróżnienie między ludźmi a botami AI, powiedział Teddy Lee, menedżer produktu i drugi członek dwuosobowego zespołu.

Istnieją jednak obawy dotyczące zdolności AI do tworzenia „deepfake'ów”, zdjęć i innych dezinformacji, zwłaszcza w kontekście nadchodzącej kampanii wyborczej w USA w 2024 roku. Krytycy twierdzą, że systemy AI, takie jak ChatGPT, mają wrodzoną stronniczość ze względu na dane wejściowe użyte do kształtowania ich poglądów.

OpenAI podejmuje ważny krok w kierunku demokratyzacji procesów zarządzania sztuczną inteligencją. Nowy zespół "Collective Alignment" ma za zadanie kształtować sposób, w jaki oprogramowanie AI jest regulowane, aby adresować problemy takie jak stronniczość. To podejście może mieć znaczący wpływ na przyszłość technologii AI i jej interakcje z społeczeństwem.