Społeczność technologiczna była świadkiem znacznego rozwoju, ponieważ Google zaindeksował serię niedokładnych próbek infrastruktury jako kodu wygenerowanych przez Pulumi AI, narzędzie wykorzystujące chatbota AI do tworzenia takiej infrastruktury. Te nieścisłości nie tylko zostały zindeksowane, ale także zaczęły pojawiać się na górze wyników wyszukiwania Google, budząc zaniepokojenie programistów. Programista Pete Nykänen podkreślił ten problem 21 marca 2024 r. w poście dotyczącym problemów w GitHub, zauważając że odpowiedzi wygenerowane przez sztuczną inteligencję z Pulumi zajmują wysoką pozycję w wynikach wyszukiwania Google, niezależnie od ich dokładności i związku z zapytaniem użytkownika.
Wpływ na programistów i jakość wyszukiwania
Ta sytuacja podkreśla szerszy problem w branży technologicznej, w której wyszukiwarki takie jak Google w coraz większym stopniu indeksują treści niskiej jakości generowane przez sztuczną inteligencję. Tendencja ta doprowadziła do spadku jakości wyszukiwania – zgłasza The Register, w którym programiści napotykają niefunkcjonalne lub niedokładna dokumentacja i przykłady kodu. Problem pogłębia fakt, że odpowiedzi generowane przez sztuczną inteligencję często nie są powiązane z pierwotnym zapytaniem użytkownika, a mimo to zapewniają najwyższe pozycje w wynikach wyszukiwania. Programista Arian van Putten wyraził swoje zaniepokojenie tą tendencją, odnotowując przypadek, gdy oficjalna strona dokumentacji Pulumi, wyraźnie oznaczona jako wygenerowana przez sztuczną inteligencję, zawierała nieprawidłowe informacje o nieistniejącej funkcji AWS.
Wysiłki mające na celu rozwiązanie problemu
W odpowiedzi na rosnące obawy Aaron Friel, inżynier AI w Pulumi, stwierdził, że firma podjęła kroki w celu usunięcia znacznej części AI-wygenerowanych treści ze swojej strony internetowej. Pomimo tych wysiłków problem nadal występuje, a algorytmy wyszukiwania Google w dalszym ciągu faworyzują strony wygenerowane przez sztuczną inteligencję zamiast bardziej wiarygodnych treści stworzonych przez człowieka. Wywołało to wezwania do wprowadzenia solidniejszych środków zapewniających dokładność i trafność treści pojawiających się w wynikach wyszukiwania. Ze swojej strony Google podkreślił swoje zaangażowanie w udostępnianie informacji wysokiej jakości i wdrożył aktualizacje mające na celu zmniejszenie liczby nieoryginalnych treści o niskiej jakości o 45 procent.
Sytuacja Pulumi AI uwydatnia wyzwania stojące przed branżą technologiczną w zakresie zarządzania rozprzestrzenianiem się treści generowanych przez sztuczną inteligencję. W miarę jak coraz więcej firm wykorzystuje sztuczną inteligencję do generowania treści, zapotrzebowanie na skuteczne mechanizmy kontroli i weryfikacji jakości staje się coraz ważniejsze.
