Nvidia wprowadza chatbota AI. Będziesz mógł porozmawiać z kartą GeForce RTX

Większość z nas kojarzy chatboty z popularnym Chat GPT, który stał się jednym z najpopularniejszych narzędzi bazujących na sztucznej inteligencji. Podobnych rozwiązań jest dużo więcej, jednak warto tutaj wyróżnić nowy projekt Nvidii - Chat With RTX.

Chat With RTX – chatbot inny niż wszystkie

Chat With RTX jest określany jako aplikacja demonstracyjna, która umożliwia personalizację dużego modelu językowego pod kątem danych zapisanych na komputerze. Całość działa na bazie modelu TensorRT-LLM RAG (do wyboru oddano modele Mistral i Llama 2),

Główną zaletą chatbota jest to, że można go używać lokalnie. Chat With RTX jest hostowany na komputerze, dzięki czemu nie bazuje na zewnętrznym dostawcy, nie wymaga dostępu do internetu i korzysta z naszych danych (i nikomu nie musi ich udostępniać). Takie rozwiązanie jest też szybsze.

Aplikacja może być naszym wirtualnym asystentem, ale przy okazji daje duże możliwości analizy danych - możemy ją poprosić np. o sprawdzenie całkowitych wydatków w ubiegłym miesiącu lub transkrypcję filmu w serwisie YouTube. Program odczytuje pliki txt, pdf, doc/docx i xml. Można też wklejać linki i playlisty z YouTube.

Poniżej możecie zobaczyć prezentację nowej funkcji.

Obejrzyj w

Wymagania Chat With RTX

Chat With RTX został zaprojektowany do działania na komputerach i laptopach, ale aplikacja działa tylko na zestawach z nowszymi kartami Nvidii - wymagania określają:

• karta graficzna: GeForce RTX 30 lub 40 (Ampere lub Ada Lovelace) z co najmniej 8 GB pamięci VRAM
• pamięć RAM: 16 GB lub więcej
• system operacyjny: Windows 11
• sterowniki: GeForce Game Ready Driver 535.11 lub nowsze

Jeśli jesteście zainteresowani, wersję demonstracyjną Chat With RTX możecie pobrać ze strony Nvidii (plik waży trochę ponad 35 GB).

Co sądzisz o zmianach zachodzących w technologiach? Weź udział w badaniu WP

Źródło: Nvidia, foto: Adobe Stock