Posty

[Hardware] Racki AI GPU okiem laika

Obraz
  Ostatnio na moim ulubionym portalu X zauważyłem pewien powtarzający się motyw. Giganci technologiczni, firmy takie jak OpenAI, które stoją za ChatGPT i innymi cudami sztucznej inteligencji, zaczęli wręcz prosić o więcej akceleratorów AI. Pomyślałem sobie wtedy co tam się dzieje, że nieustannie jest ich niedostatek? Zacząłem więc kopać głębiej, i wszystkie drogi prowadzą do firmy, której nazwa w kontekście AI przewija się chyba non-stop: NVIDIA. Kojarzę ich, jak już wspominałem, z kartami graficznymi. Kiedyś, jak miałem więcej czasu i byłem młodszy, bardzo dużo grałem w gry na komputerze, i to właśnie karta NVIDII była dla mnie synonimem dobrej grafiki. Ale żeby karta graficzna była mózgiem dla sztucznej inteligencji? To mi się w głowie trochę nie mieściło. Okazało się, że ich karty, a szczególnie te z dopiskiem GPU (Graphics Processing Unit), są jakby stworzone do pewnego rodzaju obliczeń, które są kluczowe dla trenowania i działania AI. Chodzi o to, że potrafią wykonywać wiele o...

[AI] Okno kontekstowe, czyli w jaki sposób AI pamięta nasze rozmowy

Obraz
  Ostatnio sporo piszę o zaawansowanych modelach językowych, takich jak te, które napędzają inteligentne chatboty. Zastanawialiście się kiedyś, jak te modele "pamiętają", o czym z nimi rozmawialiście? Kluczem do tej "pamięci" jest coś, co nazywa się oknem kontekstowym. Zaraz wszystko wyjaśnię w prosty sposób. Wyobraź sobie... rozmowę z przyjacielem Pomyśl o rozmowie z dobrym znajomym. Kiedy mu coś opowiadasz, on pamięta, co mówiłeś wcześniej. Dzięki temu rozumie kontekst Twojej wypowiedzi i może odpowiedzieć w sensowny sposób. Modele językowe AI działają podobnie, ale ich "pamięć" jest ograniczona przez coś, co nazywamy właśnie oknem kontekstowym. Okno kontekstowe: krótkoterminowa pamięć AI Okno kontekstowe to po prostu ilość tekstu (lub informacji), którą model AI jest w stanie "zapamiętać" i uwzględnić podczas generowania odpowiedzi. Można to porównać do krótkoterminowej pamięci człowieka. Jeśli rozmawiacie o wielu różnych rzeczach, model będzi...

[AI] Zawód Prompt Engineer

Obraz
Cześć :) Świat technologii pędzi do przodu w niesamowitym tempie, a jednym z najbardziej ekscytujących i dynamicznie rozwijających się obszarów jest bez wątpienia sztuczna inteligencja (AI). Wraz z coraz większą dostępnością zaawansowanych modeli językowych, takich jak GPT-4o czy Gemini, pojawia się nowa, niezwykle interesująca profesja: Prompt Engineer. Kim właściwie jest ta osoba i czy to rzeczywiście zawód przyszłości? Zanurzmy się w ten fascynujący temat! Kim jest Prompt Engineer? Najprościej mówiąc, Prompt Engineer to specjalista, który zajmuje się tworzeniem i optymalizowaniem zapytań, czyli tzw. promptów, kierowanych do modeli językowych AI. Choć na pierwszy rzut oka może się to wydawać proste – przecież każdy z nas zadaje pytania wyszukiwarce internetowej – w rzeczywistości inżynieria promptów to złożona umiejętność wymagająca dogłębnego zrozumienia działania modeli AI, kreatywności i analitycznego myślenia. Prompt Engineer nie tylko formułuje pytania, ale także eksperymentuje ...

[Hardware] Król akceleratorów AI, NVIDIA

Obraz
  Cześć, dzisiaj mam jeszcze temat, który rozpala wyobraźnię każdego, kto śledzi świat technologii – NVIDIA. Jeśli jest jakaś firma, która w ostatnich latach stała się symbolem postępu w sztucznej inteligencji, to właśnie oni. Dominują rynek akceleratorów AI z żelazną konsekwencją, ich GPU są wszędzie – od centrów danych po laboratoria badawcze – a ceny ich sprzętu przyprawiają o zawrót głowy. Mimo to zamówienia płyną szerokim strumieniem, a konkurencja wciąż wydaje się być kilka kroków z tyłu. Skąd się bierze ta hegemonia? Jak to możliwe, że NVIDIA utrzymuje taki poziom dominacji, mimo że ich akceleratory kosztują fortunę? I co słychać w temacie ich najnowszych cudeniek, jak Blackwell Ultra? Siadajcie wygodnie, bo dzisiaj rozkładam to wszystko na części pierwsze – z moimi przemyśleniami i garścią świeżych informacji prosto z sieci. Początki dominacji: CUDA, timing i wizja Żeby zrozumieć, dlaczego NVIDIA jest dziś tam, gdzie jest, trzeba cofnąć się o kilkanaście lat. Wszystko zac...

[AI] Mikro modele językowe LLM, które mogą zmienić świat

Obraz
  Wyobraź sobie świat, w którym sztuczna inteligencja nie wymaga potężnych serwerów, gigawatów energii i milionów dolarów na trening. Świat, w którym zaawansowane modele językowe mieszczą się w Twoim smartfonie, zegarku, a nawet w inteligentnej żarówce. Brzmi jak science fiction? Cóż, dzięki mikro LLM – czyli miniaturowym modelom językowym – to już nie jest odległa przyszłość, a coś, co zaczyna się dziać na naszych oczach. Jako osoba która się tym interesuje, mogę powiedzieć jedno: te małe bestie mają potencjał, by wywrócić branżę do góry nogami. Przyjrzyjmy się temu bliżej. Czym są mikro LLM? Mikro LLM to, w uproszczeniu, odchudzone wersje gigantycznych modeli językowych, takich jak GPT-4o czy Grok 3. Te "duże" modele mają miliardy, a czasem dziesiątki miliardów parametrów, co pozwala im generować teksty na poziomie ludzkim, tłumaczyć języki, a nawet pisać kompletny kod programistyczny. Ale jest haczyk: są potwornie zasobożerne. Trening takiego modelu to koszt rzędu milion...

[AI] Natywne generowanie obrazów w GPT-4o

Obraz
  Cześć :) Jako technologiczny bloger, staram się być na bieżąco z wszystkimi nowinkami ze świata cyfrowego. Ostatnie ogłoszenie OpenAI dotyczące natywnego generowania obrazów w GPT-4o dosłownie zatrząsnęło światem. To jest ten moment, kiedy technologia przestaje być tylko narzędziem, a zaczyna przypominać magię. Do tej pory, jeśli chcieliśmy wygenerować obraz na podstawie tekstu, musieliśmy korzystać z dedykowanych narzędzi, takich jak DALL-E. Teraz, OpenAI integruje tę potężną funkcjonalność bezpośrednio w ChatGPT, a to zmienia wszystko. Czym właściwie jest to natywne generowanie obrazów w GPT-4o? Mówiąc najprościej, GPT-4o stał się modelem multimodalnym. To oznacza, że nie tylko rozumie i generuje tekst, ale także potrafi przetwarzać i tworzyć obrazy, wideo i dźwięk. Skupmy się jednak na obrazach. Wyobraźcie sobie, że rozmawiacie z ChatGPT i w pewnym momencie mówicie: "Stwórz obraz przedstawiający kota w kosmicznym skafandrze, siedzącego na Marsie pod zachodzącym słońcem"....

[Historia] Rok 1996 - pegazus, moja pierwsza konsola

Obraz
  Mój pierwszy kontakt z wirtualnym światem: długie godziny z Pegasusem w roku 1996 Rok 1996. Polska powoli otrząsała się z transformacji ustrojowej, na ulicach królowały maluchy i polonezy, a w telewizji królowały telenowele i programy dla dzieci takie jak "Tik-Tak" czy "Domowe Przedszkole". W powietrzu czuło się pewną dozę optymizmu i ciekawości tego, co przyniesie przyszłość. Dla mnie, sześcioletniego chłopca, przyszłość oznaczała przede wszystkim jedno – zbliżające się urodziny i marzenie o własnej konsoli do gier, o której słyszałem od starszych kolegów. Było popołudnie, wróciliśmy z tatą z jakichś zakupów. Tata niósł ze sobą podłużne, kartonowe pudełko, które od razu przykuło moją uwagę. Było kolorowe, z rysunkami jakichś dziwnych postaci. Już wtedy wiedziałem, że to jest to – mój wymarzony Pegasus. W domu, z bijącym sercem, obserwowałem, jak tata ostrożnie rozpakowuje pudełko. Najpierw pojawiła się szara, kanciasta konsola. Wyglądała solidnie, trochę topornie...