Na początku lutego Microsoft oficjalnie wycofał się z dalszych prac w zakresie jednego z kluczowych ulepszeń wyszukiwarki Bing – Deep Search. Okazuje się jednak, że właśnie zmienił zdanie. Ponowne rozpoczęcie testowania nowych funkcji zostało zapowiedziane jeszcze na ten tydzień. Jakie czynniki mogą stać za taką “huśtawką” decyzyjną Microsoftu? I czy nowa funkcja ma szansę zwiększyć potencjał konkurencyjny Bing względem Google Search?
Bing jednak z Deep Search. Microsoft definitywnie wznawia testy
Funkcja pogłębionego wyszukiwania (Deep Search) miała wpływać na możliwości wyszukiwarki Microsoftu i rozszerzać jej funkcjonalność w zakresie A.I. Na początku lutego Microsoft wydał komunikat o zmianach w prowadzonych pracach. Jak przekonywał Michaił Parachin, początkowo Microsoft uznawał nową funkcję raczej za mało istotny dodatek. Popularność okresu testowego Deep Search była jednak większa, niż spodziewali się analitycy, co doprowadziło do problemów związanych z dostarczaniem usług dla szerszej grupy odbiorców. Przyczyny problemy dotyczyły nieefektywnej ścieżki buforowania, która stanowiła tzw. wąskie gardło systemu. Niezbyt dobrze świadczy to o prognostach pracujących dla wciąż przecież największej korporacji IT na świecie.
W rezultacie na początku lutego wstrzymano pełne, otwarte testowanie funkcji Deep Search dla Bing. Testy pozostawiono wyłącznie dla własnych pionów badawczych, które wciąż mają pracować nad implementacją nowego rozwiązania. 28 lutego Parachin zapowiedziałem w serwisie X powrót Deep Search do trybu pełnego testowania jeszcze w tym tygodniu. W momencie pisania artykułu funkcja nie wróciła jeszcze na dobre, ale z pewnością stanie się to na dniach!
Jak działa Deep Search?
Deep Search wykorzystuje istniejący indeks sieci i wyszukiwania Bing razem z systemem rankingowym, ale filtruje zapytania w obrębie modelu językowego LLM. Cały projekt bazuje na współpracy ze studiem Open AI, czyli twórcami słynnego ChatGPT. Deep Search z GPT-4 ma analizować prompt wyszukiwania i rozszerzać jego znaczenie w oparciu o algorytmy modelu językowego. Celem jest rozszerzenie bazowych konfiguracji i kontekstów promptu tak, aby w oparciu o nie – a nie sam prompt – móc zaproponować użytkownikowi bardziej trafne wyniki wyszukiwania.
Jak informuje Microsoft, Deep Search ma na celu zapewnianie „odpowiednich wyników, które często nie pojawiają się w typowych wynikach wyszukiwania”. Odpowiada za to zastosowanie „technik zapytań” do znalezienia stron, które mogą pasować do rozszerzonego zapytania, przepisywania zapytania i wyszukiwania alternatywnych wariantów promptu. Twórcy zapewniają, że implementacja funkcji Deep Search do Microsoft Bing przełoży się na ulepszenie wyszukiwania, które ma zapewniać bogatsze eksplorowanie wyników wyszukiwania.
Co zmienia zastosowanie Deep Search?
Z perspektywy użytkownika wyszukiwanie Deep Search może przypominać nieco “tryb precyzyjny”, który można ustawić w Microsoft Copilot. Jasne jest, że wyszukiwanie takie nie sprawdzi się zawsze i wszędzie. Jeśli chcemy wyszukać ogólnie dostępną informację, bez żadnych dodatkowych kontekstów, a nasza intencja jest prosta, wyświetlanie bardziej pogłębionych wyników może tylko pogarszać doświadczenia użytkownika.
Jeśli jednak zależy nam na uzyskaniu szczegółowej informacji, Deep Search może okazać się bardzo pomocne. Przykładem mogą być zapytania dotyczące systemów działania kart lojalnościowych, który to test został przeprowadzony przez jednego z użytkowników. Dzięki pogłębionemu wyszukiwaniu Bing zwrócił wyniki precyzyjnie przedstawiające sklepy i restauracje korzystające z danego programu lojalnościowego. Bez Deep Search wyszukiwarka miała problem ze wskazaniem wiarygodnych informacji.
Według Microsoftu początkowo Deep Search może działać wolno, a proces generowania rezultatów może zajmować nawet trzydzieści sekund. Deep Search nie jest przeznaczony dla każdego zapytania, ani dla każdego użytkownika. Nie jest to rozwiązanie o charakterze ogólnym, ale nadrzędnym i pomocniczym względem bazowych algorytmów wyszukiwarki. Ma pomagać przede wszystkim w tych sytuacjach, kiedy użytkownik zadaje złożone pytania, na które wymagana jest bardziej rozbudowana odpowiedź. Microsoft dodaje, że dłuższy czas działania nie wpłynie na bazową wyszukiwarkę Bing, która wszystkie wyniki ma zawsze zwracać w czasie mniejszym, niż jedna sekunda.
Deep Search a Copilot
Nie jest tajemnicą, że nowa funkcja wyszukiwarki Bing jest także opracowywana w ramach Microsoft Copilot, czyli autorskiego modelu językowego Microsoft bazującego na architekturze GPT. Model już teraz zapewnia wysoki poziom funkcjonalności. Chociaż możliwości analityczne w zakresie rozumienia i przetwarzania promptu wydają się być na niższym poziomie niż w przypadku w GPT-4 od Open AI, zaletą jest połączenie z wynikami wyszukiwania Bing. Co więcej, po stworzeniu konta i nadania takiego połączenia, możliwe jest uzyskanie kompatybilności z wieloma innymi serwisami (a właściwie ich bazami danych i API) w postaci wtyczek. To między innymi Intacart, Kayak, Klarna, OpenTable czy Suno.
Głównym konkurentem Copilota w obecnej chwili jest Google Gemini, które także zapewnia dostęp do funkcjonalności multimedialnych i korzysta ze wsparcia aplikacji zewnętrznych. Microsoft nie zostaje w tym i zapowiada integrację nie tylko Copilota, ale także Deep Search z najnowszą wersją GPT-4 Turbo. Ma zapewniać ona jeszcze szybsze generowanie promptu, a także lepiej zoptymalizowane procesy przetwarzania na język naturalny, skutkujące trafniejszym dopasowaniem odpowiedzi.
Grounding – jakość, nie ilość
Warto też obserwować rozwój Grounding. To proces wykorzystywania dużych modeli językowych (LLM), z informacjami, które są specyficzne dla przypadku użycia, istotne i niedostępne jako część wiedzy trenowanej LLM. Autorskie rozwiązanie Microsoftu ma wypełniać lukę w wiedzy specjalistycznej, w zakresie której największe modele językowe wciąż mogą popełniać błędy. Microsoft na stronie oficjalnej Grounding wskazuje, że głównym celem projektu jest – kolokwialnie mówiąc – “uziemienie dużych modeli językowych” tak, aby nie zawsze generowały dużo wiedzy ogólnej, ale mogły odpowiadać precyzyjnie na konkretne pytania. Nie ma jeszcze wielu informacji na ten temat, ale wiemy, że Microsoft będzie próbował inkorporować Grounding do Deep Search.
Microsoft reaktywuje testy Deep Search – podsumowanie
Po ostatnich testach Bing Deep Search Microsoft wydaje się być na dobrej drodze do naprawy niedociągnięć i przywrócenia tej funkcji z nowymi ulepszeniami. Z najnowszych zapowiedzi wynika, że lada moment startują rozszerzone testy Deep Search, które wcześniej zostały anulowane ze względu na problemy techniczne z buforowaniem i zbyt duże zainteresowanie.
Deep Search pozostaje w fazie testów i ulepszeń, a Microsoft na pewno z niego nie zrezygnuje, jak można było się domyślać po wcześniejszych zapowiedziach. Co więcej, zapowiedź integracji najnowszych modeli językowych OpenAI z Copilot i Deep Search pokazują, że Microsoft nie powiedział jeszcze ostatniego słowa, jeśli chodzi o Bing. Ciekawie rysuje się potencjał konkurencyjny w kontekście Google Search, które ma przewagę, jeśli chodzi o algorytmy przeszukiwania sieci, ale w zakresie A.I. i rozwiązań typu Grounding wydaje się być w tyle.