Alibaba’s QWen 2.5 AI stoi przed zarzuty „oszustwo” w związku z zanieczyszczonymi danymi odniesienia

Ta rozbieżność zdecydowanie sugeruje, że QWEN2.5 nie rozumował od pierwszych zasad. Zamiast tego wydaje się, że pobierał informacje, które już widział podczas swojego treningu, skutecznie „regurgitując” odpowiedzi, które zapamiętała ze źródeł takich jak GitHub, w których takie zestawy danych są powszechne.

Test na czystym gruncie ujawnia prawdę

potwierdzić ich hipotezę, badacze stworzyli całkowicie nową, nieskrępowaną dane nazywane „losową skolacją”. Ten punkt odniesienia składa się z w pełni syntetycznych problemów arytmetycznych, gwarantując, że żaden istniejący model AI nie widział ich wcześniej.

Na tym czystym zestawie danych wydajność QWEN2.5 zmieniła się dramatycznie. Jego dokładność spadła, ponieważ problemy stały się bardziej złożone, co jest oczekiwanym zachowaniem modelu, który naprawdę próbuje rozumować. Jest to wyraźnie kontrastowe z nieskazitelnym wycofaniem w zanieczyszczonym teście Math-500.

Ponadto badanie obaliło ostatnie teorie, że losowe lub niepoprawne sygnały nagrody mogą zwiększyć rozumowanie. W czystym zestawie danych wydajność QWEN2.5 poprawiła się tylko wtedy, gdy została przeszkolona z prawidłowymi nagrodami. Losowe lub odwrócone nagrody spowodowały, że jego wydajność stała się niestabilna lub całkowicie się zawaliła.

szerszy kryzys zaufania dla testów porównawczych AI

Ten incydent podkreśla rosnący kryzys zaufania w branży AI. Gdy firmy ścigają się na najlepsze wyniki w liderach, integralność samych testów porównawczych pojawia się. Presja na działanie może prowadzić do „nauczania testu”, w którym modele są przeszkoleni specjalnie do oceny ACE.

Jest to problem systemowy, który wykracza poza każdą jedną firmę. Wiarygodność punktów odniesienia ma fundamentalne znaczenie dla śledzenia prawdziwego postępu w sztucznej inteligencji. Gdy te narzędzia oceny są zagrożone, trudno jest rozróżnić prawdziwą innowacje od sprytnej optymalizacji.

W odpowiedzi na badanie zespół QWen Alibaba wydał publiczne oświadczenie odnoszące się do roszczeń dotyczących zanieczyszczenia danych i potwierdzając ich zaangażowanie w integralność.