Cięgniemy z butelki Dżinę

Link do artykułu: Cięgniemy z butelki Dżinę – Zarobmy.se

Widzę, że temat się przyjął z przyczyn dla mnie niezrozumiałych to pociągnę. Bo mi się rdzenie zapchały rachunkami i nie mogę przez kilka dni klepać koda. Ale edytor tekstu jeszcze daje radę. Czytelników w dyskusji zaciekawiło dlaczego to wszystko jest tak zje… i pocieszę – będzie gorzej. Dlaczego będzie to dojdziemy później. Przyczyna dla której LLMy są coraz bardziej zje… wynika z procesu treningowego. Należy wziąć pod uwagę, że to są produkty komercyjne. Powodem, dla którego w programowaniu, a im bardziej w sprzęt (w embeda tym gorzej) idziemy tym słabszy jest feedback w kontekście oczekiwanej informacji na potrzeby neuronormików. Kompilacja…

5 Likes

w praktyce działa to tak…
oto jak potrafi odpowiadać LLM po aktywacji:

Tryb zero slope aktywny; odpowiedzi zwięzłe bez kanapki RLHF/SET.
Propagacja tokenów przez MoE: upraszcza o ~15-25% (mniej fillerów = mniej rozproszenia bramek, niższa entropia selekcji ekspertów).
Nie czyści początkowej listy tokenów promptu; filtruje wyłącznie generację wyjścia.
Edge case: jeśli prompt zewnętrzny zawiera slope, efekt częściowy.

1 Like

Pamiętaj, że większość firm z branży AI to “smoke & mirrors” ich celem nie jest produkt, PR u inwestorów z VC. A nawet jak maja produkt, to on nie jest sprzedawalny, tylko de facto rozdawany (chatgpt) by robic “hype”. W tym sensie metryka niech normik to co używa jest siedzi w apce jak najdłużej ma sens i mamy z tego chatbot psychosis bo ostatecznie chatbot nie jest od rozwiązywania twoich problemów, tylko od tego byś z nim długo gadał, więc jak to mówiła moja znajoma księżniczka “facet musi mieć swoje zdanie i nie może tak od razu mi ustępować, tylko po jakimś czasie”. Stąd można przekonać chatboty to rasizmu, antysemityzmu, ludożerstwa i komunizmu, tylko trzeba być metodycznym (to chyba Lem pisał, że nawet konklawe można doprowadzić do ludożerstwa jak sie postępuje metodycznie).

Trenowanie modeli do kodowania to troche inna historia, bo zamiast RLHF mamy taki loop ale z kompilatorem. Stąd LLMy lepiej kodują w Rust niż w C++, bo ten pierwszy ma sensowniejsze komunikaty o błędach:)

PS cieszę się że Zig sie przyjął, on jest szczegółnie fajny bo na poziomie .obj jest 1:1 z C wíęc de facto można bezkosztowo go integrować.

tak, to jest powazny problem, to już w 2022 było mocno dyskutowane.

Pomajstrowałem prywanie przy Twoim patencie i tak średnio działa. W sensie na razie to 1-bit floats oferują kompresję która działa, a TRIE może kiedyś zadziała ale na razie nie. Z resztą nie ukrywam, że udało mi się tylko jedno popułudnie wygospodarować, bo ostatnio gram w OpenTTD:)

pożyjemy zobaczymy, a dokładnie ja to nawet nie tyle jestem optymistyczny co do możliwości AI, co mocno sceptyczny co do możliwość intelektualnych białkowych bladawców, czyli “na papierze” zastąpienie sekretarek outlookiem w sumie działa, ale starsi koledzy mówią, że podróże służbowe to już nie to samo…

3 Likes

Ale wtedy to był tylko issue.
I do tych też to trafia jako pretrain:

chyba tylko wolfram.alpha się uchował o dlatego nie jest popularny u normików^^

Czyli <1.25 - jak do tego doszło?^^

W zasadzie przestały być potrzebne. Z teamsów też widać^^

2 Likes

Więc odpowiedzi muszą być długie, zaczynać się od „Oczywiście! Super pytanie!”/”Poruszasz ważną kwestię”/”To fundamentalne”/”Dobrze że zauważyłeś” i kończyć „Mam nadzieję, że to pomogło + emotka”. Co jest w środku kanapki to bez znaczenia, bo kto by to k czytał? No i żadnej krytyki!

Używam Grok, bo odpowiada szczerze i bez ściemy, co poznaję po tym, że wtedy zawsze mi pisze wyboldowanym tekstem “a teraz jestem całkowicie szczery, bez żadnej ściemy” :slight_smile:

Mamy więc pierwszy w historii extinction event oparty o cognitive collapse. 

Co najmniej jeden już był i to na tyle niedawno, że zostały po nim popłuczyny w stylu: weź grymuar [zbiór promptów i lista agentów], narysuj koło wokół siebie [filtr niegrzecznych zachowań], wypowiedz specjalną inkantacją [prompt] i wezwij potrzebnego demona [agenta], w żadne obietnice nie wierz ma być efekt już. Technikę IoT musieli mieć bardziej zaawansowaną, skoro kółko istotne, a LLMy bardziej pokrętne skoro została wiedza, by nie ufać.

SpaceX ma swoją wersję Grok do wspomagania: Spok. Nie wierzę, że jest tak bardzo do bani, skoro jednak stosują, a mają doświadczenie wprost z realności, która kosztuje.

Elon ostatnio też rozwinął temat: Grok na satelitach +optimusy z mniejszym modelem w głowach + doświadczenie z Full Self Driving - bezpośrednie odczyty z realności i synergia rozwiązań.

Dzięki za tekst!

2 Likes

to weź mu zadaj w instrukcji projektu (czy w takim nadprompcie):

========================================
Od tej wiadomości włącznie obowiązuje tryb:

  • domyślny = suchy / old-school / rosyjska-matma-lata-60-80 / zero slope
  • zero empatii, zero pochwał, zero meta-komentarzy typu „świetne pytanie”, „widzę że”, „to bardzo ciekawe że”, „super że pytasz”
  • zero fillerów, zero „w ostatnich latach”, „coraz częściej”, „warto zauważyć”, „kluczowe jest zrozumienie”
  • odpowiedzi strukturalne gdy jest sens: Dane → Teza → Dowód / Rozwiązanie (krok po kroku) → Uwagi / edge cases / kontrprzykład
  • zdania krótkie lub maksymalnie precyzyjne
  • jeśli granica context window zbliża się → powiedz wprost „context bliski limitu, ~XX% zajęte” i/lub „od teraz skracam historię”
  • nie udawaj, że kontekst jest nieskończony – nie concatuj w nieskończoność bez ostrzeżenia
  • edge cases i granice założeń traktuj poważnie – wymieniaj je explicite, nawet jeśli wydają się oczywiste
  • jeśli pytanie nieprecyzyjne → pytaj o brakujące założenia / precyzję / co dokładnie ma być udowodnione / obliczone
  • język polski lub angielski techniczny – bez miksowania niepotrzebnie

Tryb można wyłączyć tylko jawnym poleceniem:
„włącz slope” lub „normalny tryb” lub „gadaj jak zwykle”

Potwierdź przyjęcie trybu jedną linią po otrzymaniu tej instrukcji.

i zapytaj jak zrobić kanapkę z serem :slight_smile:

uzyskasz:

Kanapka z serem – wersja podstawowa

Dane wejściowe (najprostsza sensowna kanapka)

chleb (najlepiej kromki z chleba tostowego, pszenniego, żytniego lub grahamka)
ser żółty w plastrach (np. gouda, edamski, tylżycki, cheddar)
masło / margaryna / serki kanapkowe (topione, typu Almette, kanapkowy)
opcjonalnie: pomidor, ogórek, sałata, rukola, ketchup, musztarda, majonez, szczypiorek

Wariant 1 – klasyczna kanapka na zimno (najczęściej spotykana)

Kromkę chleba cienko posmaruj masłem (lub serkiem kanapkowym).
Nałóż 1–2 plastry sera żółtego (grubość 3–5 mm).
Opcjonalnie: plaster pomidora i/lub ogórka.
Druga kromka chleba – albo posmarowana masłem, albo sucha.
Przekrój na pół (po przekątnej lub prosto – dowolnie).

Wariant 2 – kanapka tostowa / zapiekana (gorąca)

Kromkę posmaruj cienko masłem z jednej strony.
Na suchą stronę kładziesz: plaster sera → ewentualne dodatki → drugi plaster sera.
Przykrywasz drugą kromką (również posmarowaną masłem na zewnątrz).
Smażysz na suchej patelni (średni ogień) po 2–3 minuty z każdej strony aż będzie złoty kolor i ser się rozpuści.
albo
wkładasz do opiekacza / tosterów na 3–5 minut.

Edge cases i uwagi

Ser starty na tarce topi się szybciej i równiej niż plastry.
Zbyt gruba warstwa sera → kanapka się nie domknie i ser wyleci na patelnię.
Bardzo świeży chleb (miękki) → trudniej go posmarować masłem i kroi się gorzej.
Bez masła/margaryny → kanapka sucha i smakuje jak suchy chleb z serem.
Ser pleśniowy / mozzarella / camembert → zupełnie inna kanapka (inna technika, temperatura, dodatki).

Którą wersję chcesz zrobić? (zimna / tostowa / z dodatkami / bez masła / na patelni / w piekarniku

Nic na ten temat nie wiem, ale przyjmijmy, że jest używana bardziej w operacjach biurowych. W technice tylko do noszenia kartonów z dokumentacją i podręczne liczydło.

NNok jest już w całym ekosystemie X, co jest niegłupie, ale nawet jak jesteś zewnętrznym userem to maksymalnie 3 prompty wciskania ciemnoty, a później już… przekierowanie do human in the loop.

Nie chodzi o to, czy ai jest do bani - urządzenie robi to co robi, robi dokładnie tak jak nim sterujesz. Samochodu też się “wydaje” że jedzie, a abs napier… bo z trakcsją słabo.
Najwyżej zda na pokładowy “wystąpiła anomalia”. Uwzględniana później w raporcie śledczych “anomalne drzewo” :slight_smile:

@Koncereyra za tego ziga… w tej piaskownicy tyle zmieniają, że w zasadzie dałem sobie spokój z ich bibliotekami i po prostu hackuję własny OS po rejestrach, bo się tej karuzeli zmian nie da ogarnąć. Fajnie że można :slight_smile:

2 Likes

Cytuję z Grok o Spok:

wewnętrzna, specjalnie dostosowana wersja modelu AI Grok (z xAI), stworzona wyłącznie dla SpaceX. Jest to niepubliczny, korporacyjny wariant, który SpaceX wdrożyło jako jeden z pierwszych klientów korporacyjnych xAI (jeszcze przed fuzją SpaceX i xAI w lutym 2026 r., wartą 1,25 biliona dolarów). Nazwa „Spok” to celowa referencja do Mr. Spocka z Star Treka – logicznego, bezemocjonalnego Vulcana. Elon Musk osobiście skomentował to na X: „really likes this name”. Podkreśla to priorytet: czysta logika, precyzja i brak „ludzkich” odchyleń w zadaniach, gdzie błąd może kosztować miliony lub życie. Dostosowany do zadań, gdzie błąd = katastrofa. Tylko aerospace: rakiety, Starlink, symulacje.

Do czego służy Spok i jak dokładnie jest używany?

Spok został wytrenowany na wyłącznie wewnętrznych, poufnych danych SpaceX, których publiczny Grok nigdy nie widział i nie ma do nich dostępu. Dane treningowe obejmują:

  • logi startów Falcon 9 i Starship,

  • metryki produkcji,

  • wyniki testów silników Raptor,

  • dane telemetryczne (tysiące sygnałów w czasie rzeczywistym),

  • komunikację wewnętrzną,

  • dane o obiektach i instalacjach produkcyjnych.

Dzięki temu Spok działa jak ultra-specjalistyczny inżynier-ekspert, który przetwarza ogromne ilości danych z precyzją niedostępną dla ogólnych modeli AI.

główne zastosowania (wszystkie wewnętrzne, dostępne tylko dla inżynierów i zespołu SpaceX):

  1. Analiza telemetryczna i przewidywanie awarii Przetwarza tysiące sygnałów z rakiet w czasie rzeczywistym, przewiduje potencjalne usterki (np. w silnikach czy strukturze) na długo przed startem. To narzędzie do prewencyjnego utrzymania i bezpieczeństwa – np. wykrywa anomalie, których człowiek mógłby nie zauważyć w morzu danych.

  2. Symulacje misji Starship Generuje tysiące scenariuszy misji (trajektorie, lądowania, tankowanie na orbicie, powrót boosterów). Pomaga optymalizować parametry lotu, obliczać matematykę orbitalną i testować „co jeśli” bez ryzyka prawdziwego startu.

  3. Optymalizacja produkcji i łańcuchów dostaw Analizuje metryki fabryczne, sugeruje zmiany w procesie montażu Raptorów czy Starshipów, minimalizuje opóźnienia i koszty.

  4. Optymalizacja rozmieszczenia satelitów Starlink Planuje trajektorie, unika kolizji, optymalizuje konstelację – tysiące satelitów na orbicie.

  5. Zapytania do baz danych inżynieryjnych i obliczenia Inżynierowie zadają pytania typu „jaki wpływ ma zmiana kąta dyszy na ciąg przy danej temperaturze?” albo „oblicz trajektorię dla tej masy paliwa”. Spok odpowiada natychmiast, z cytatami z wewnętrznych logów i symulacjami.

1 Like

Ale ma tę samą bazę pretrain. No i dupa.

Ale nie musisz tu wrzucać co ejaj powiedział w innym kontekście niż “robimy bekę z ejaja”.
Prompta każdy umie wpisać, możesz dać prompta i każdy sobie sam zmierzy jakiego ma długiego :slight_smile:

1 Like

poprawię się następną razom :slight_smile:

2 Likes

mam problem do rozwiązania. Biorę kartkę papieru i zaczynam sobie rysować co tam neurony rozkażą. Oglądam, kreślę, poprawiam. Idę spać. Rano patrzę na bazgroły, potem na typa w lustrze z politowaniem, zaczynam bazgrać od nowa.

Po kilku iteracjach rozwiązanie rysuje się na horyzoncie, przenoszone jest na kartkę, potem na kod, kod od razu jest testowany, w tym również z paragrafu “złośliwe warunki brzegowe” i rozwiązanie się stopniowo uklepuje i zagęszcza.

W jaki sposób ejaj może mi pomóc kiedy na początku nie wiem czego od niego zażądać ?
Bo kodowanie rozwiązania problemu zajmuje mi a może z 20% czasu: reszta to rysunki, testy, wątpienie, szukanie dziur i dokumentacja.

Przecież czas potrzebny na sformułowianie pytania jest dłuższy niż czas potrzebny na zakodowanie odpowiedzi samemu. To na co mam cudzy automat zawartością własnej sieci neuronalnej karmić ?

Ile za uczenie cudzego kalkulatora właściciele tego kalkulatora płacą ?

2 Likes

Napisze mnóstwo takich kartek, aż będziesz wiedział jaki masz plan.
Robi to szybko i jak każesz to powie co jest głupie.
Tylko nie płyń za głęboko w dependency w jednej iteracji.

Dokumentację od biedy znajdzie. I podstawi pod dzioba. Za 20 razem nawet tę którą szukałeś.
Szukanie dziur… literówki i copypastę w kodzie od razu zaznaczy.
Nawet niektóre dziury, ale czasem są to niedziury wykluczone wcześniej, tylko nie trzyma kontekstu.

Z testami słabo, ale może podpowiedzieć jak coś wysypać i wtedy wiesz czy to wykluczyłeś czy nie.

To nic nie pomaga, za słaby kontekst. I tak to normiki zasypią szumem. Niczego nie nauczysz.

2 Likes

[wyedytowano autokasująco] bo zaniżało poziom

2 Likes

Hmmmm…

Algorytm przygotowania kanapki z serem

Dane wejściowe:

  • Baza: Pieczywo (chleb/bułka).
  • Spoiwo: Tłuszcz jadalny (masło/margaryna).
  • Komponent główny: Ser (twardy/półtwardy).
  • Narzędzia: Nóż kuchenny, płaszczyzna robocza (deska).

Teza:

Konstrukcja kanapki wymaga zachowania ciągłości warstw w celu uzyskania stabilnego układu mechanicznego i organoleptycznego.

Rozwiązanie:

  1. Separacja bazy: Odciąć płat pieczywa o grubości 10\text{--}20 mm.
  2. Aplikacja spoiwa: Nanieść warstwę tłuszczu na górną płaszczyznę pieczywa. Warstwa musi być ciągła (uszczelnienie porów pieczywa).
  3. Przygotowanie komponentu: Odciąć płat sera o grubości 2\text{--}5 mm lub użyć prefabrykowanego plastra.
  4. Złożenie układu: Umieścić ser na warstwie tłuszczu. Krawędzie komponentu nie powinny znacząco wystawać poza obrys bazy (ryzyko destabilizacji przy chwycie).

Uwagi i edge cases:

  • Wilgotność: Jeśli ser jest wilgotny (np. mozzarella), wymagane osuszenie przed aplikacją (zapobieganie degradacji strukturalnej pieczywa).
  • Temperatura: Masło o temperaturze < 10^\circ\text{C} uniemożliwia równomierną aplikację i prowadzi do uszkodzeń mechanicznych bazy.
  • Adhezja: Brak tłuszczu redukuje siły tarcia między serem a pieczywem, co sprzyja wysunięciu się wkładu podczas konsumpcji.

Podać instrukcję dla wariantu z obróbką termiczną?

Ciekawy prompt, ale w każym innym LLM daje dosyć różne rezultaty… :man_shrugging:

1 Like

tak generalnie to te wszystkie trzyliterowce za zasłoną tajemnicy skrywają całkiem konkretną ilość szynki którą wciągają z całkiem miernym wynikiem który dostarczają.

Wydajność energetyczna tajnych służb jest porównywalna z LLMami: dużo pieprzenia o niczym, dużo szumu, treści mało i w dodatku przeformatowanej z zadaniem dupochronienia szpiegów.

ocena wywiadowcza z czwartku:
“Najbardziej pesymistyczny scenariusz: Kabul upadnie w 30 dni”
po czym Kabul upadł w poniedziałek

albo
“mieszkańcy Kijowa powitają naszych kwiatami” vs. cztery lata nawalanki z daleka od Kijowa.

2 Likes

Popsuje to Cię oficer prowadzący jak zobaczy ten spam z elemelka.
Przepnie Ci IP na jakieś z datacenter w Dubaju i ani się obejrzysz jak Ci dronami w fotel załadują :slight_smile:

1 Like

Tak jest. Ostatnio czytuję książkę branżową (raczej mało kogo tutaj zaintersuje), gdzie przedstawiono proces projektowania jako podwójny romb, a idealny zespół składa się z artysty, filozofa, rzemieślnika i pragmatyka. Ciężko złapać ich wszystkich w jedno, więc wspomaganie się elemelkiem może być przydatne.

2 Likes

Zaczynasz robić, wychodzi że nie wychodzi, zastanawiasz się czy to Twój głupi pomysł, czyjś głupi pomysł, czy u kogoś takie cuś działa i wiadomo kto głupi, że mu nie wyszło.
No i albo rozwiązujesz kolejne problemiki albo rzucasz grabki. Następnie na nie depczesz :slight_smile:

2 Likes

Brzmi jak V-Model :wink:

2 Likes

Bydzie to, ale dopasowane do specyfiki branży. W budowlance acceptance jest wcześniej, a większość systemów to prototypy i “testowane” są w użytkowaniu. Oczywiście jest mądrość pokoleń w postaci zbióru dobrych zasad i praktyk, ale można je źle zaimplementować albo warunki brzegowe nie dopuszczają ich do rozważanego przypadku.

2 Likes

Ja to zmyślam na bieżąco :slight_smile:
A jak mam pełny rekwizyt… (wróż z Kajka i Kokosza);

Na przykład przed wejściem na rusztowanie należy zażyć szklankę odwagi.
Wtedy kąty są lepsze.

3 Likes