Кодування флагманського рівня в щільній моделі 27B

Кодування флагманського рівня в щільній моделі 27B


22 квітня 2026 р. – блог із посиланнями

Qwen3.6-27B: кодування флагманського рівня в щільній моделі 27B (через) Великі претензії від Qwen щодо їхньої останньої відкритої моделі:

Qwen3.6-27B забезпечує продуктивність агентного кодування флагманського рівня, перевершуючи флагман Qwen3.5-397B-A17B з відкритим кодом попереднього покоління (397B загалом / 17B активного MoE) у всіх основних тестах кодування.

На Hugging Face Qwen3.5-397B-A17B має 807 ГБ, цей новий Qwen3.6-27B – 55,6 ГБ.

Я спробував це з квантованою версією Unsloth Qwen3.6-27B-GGUF:Q4_K_M на 16,8 ГБ і llama-server використовуючи цей рецепт benob на Hacker News, після першого встановлення llama-server використовуючи brew install llama.cpp:

llama-server \
    -hf unsloth/Qwen3.6-27B-GGUF:Q4_K_M \
    --no-mmproj \
    --fit on \
    -np 1 \
    -c 65536 \
    --cache-ram 4096 -ctxcp 2 \
    --jinja \
    --temp 0.6 \
    --top-p 0.95 \
    --top-k 20 \
    --min-p 0.0 \
    --presence-penalty 0.0 \
    --repeat-penalty 1.0 \
    --reasoning on \
    --chat-template-kwargs '{"preserve_thinking": true}'

Під час першого запуску вдалося зберегти модель ~17 ГБ ~/.cache/huggingface/hub/models--unsloth--Qwen3.6-27B-GGUF.

Ось стенограма для «Створення SVG пелікана, який їде на велосипеді». Це ан видатний результат для локальної моделі 16,8 ГБ:

Кодування флагманського рівня в щільній моделі 27B

Показники продуктивності, надані llama-server:

  • Зчитування: 20 токенів, 0,4 с, 54,32 токенів/с
  • Генерація: 4444 токенів, 2 хв 53 с, 25,57 токенів/с

Для хорошої міри, ось Створення SVG ОПОССУМА ПІВНІЧНОЇ ВІРГІНІЇ НА ЕЛЕКТРОСАКОТЕРІ (раніше запускався з GLM-5.1):

Цифрова ілюстрація в неоновому стилі Tron із зображенням сірої котячої істоти в блакитних окулярах із щитком, яка їде на світлому блакитному футуристичному мотоциклі темним міським пейзажем уночі, з довгим хвостом, що тягнеться позаду, із силуетами будівель із жовтими вікнами на задньому плані та сяючим пурпуровим місяцем праворуч.

Для цього знадобилося 6575 жетонів, 4 хвилини 25 секунд, 24,74 т/с.



Source link

Postagens Similares

  • 大衛·萊特曼(David Letterman)

    傳奇的深夜主持人戴維·萊特曼(David Letterman)在導致ABC暫停吉米·金梅爾(Jimmy Kimmel)的事件中加重了這一事件。 當被問及金梅爾的停賽時,萊特曼說:“這真是痛苦。” “我對此感到難過,”他繼續說道。 “我們看到這一切都在哪裡,對嗎?這是管理媒體。這不是很好。這很愚蠢。這太荒謬了。您不能四處解僱某人,因為您害怕或試圖在橢圓形辦公室裡吸引專制犯罪管理局。這不是這樣做的。” 萊特曼說:“在一個專制的人,也許是獨裁統治的世界中,每個人都將被感動。” 萊特曼還說:“美國總統的機構應該比參加脫口秀的人大。”他說,金梅爾從深夜電視台上撤離,“斯蒂芬·科爾伯特(Stephen Colbert)離開後,我們的總統預言了我們的總統,所以你告訴我這沒有在某種程度上進行預謀嗎?” 萊特曼(Letterman)在深夜電視節目中度過了三十年的時間,他說,金梅爾(Kimmel)在星期四早上給他發了短信。萊特曼說:“他躺在床上,接受營養。他會沒事的。” 週三,美國廣播公司(ABC)暫停了金梅爾(Kimmel)的深夜節目“無限期”。這是在FCC董事長佈倫丹·卡爾(Brendan Carr)僅幾個小時前就威脅ABC及其分支機構之後,如果他們沒有對Kimmel“採取行動”對他認為對Charlie Kirk的殺手的令人反感的評論。卡爾在保守的播客中說:“我們可以以簡單的方式或艱難的方式做到這一點。” “坦率地說,這些公司可以找到改變行為和採取行動的方法,否則將為FCC提供其他工作。”此後不久,兩個大型電視台集團經營ABC分支機構 – Nexstar Media和Sinclair,兩者都受到FCC的監督 – 表示他們不會播出“ Jimmy Kimmel Live!”在可預見的未來。然後,美國廣播公司(ABC)宣布了金梅爾(Kimmel)的停賽。 關於卡爾的評論:“我們可以以簡單的方式或艱難的方式做到這一點,”萊特曼說:“誰在僱用這些傻瓜 – 馬里奧·普佐(Mario Puzo)?”,指的是“教父”的作者。萊特曼說,當他在電視上時,他從未受到總統政府,FCC或任何其他政府機構對他的空中評論的壓力。 萊特曼說:“以喜劇的名義,正確,正確,準確或可能不正確地毆打(過去的美國總統),我們從來沒有任何人都被任何政府機構的任何人擠過,更不用說可怕的FCC了。” 批評金梅爾的停賽的其他人包括巴拉克·奧巴馬,萬達·賽克斯,本·斯蒂勒,讓·斯瑪特等,而像總統唐納德·特朗普這樣的保守派人物卻慶祝了這一舉動。 萊特曼(Letterman)接受了大西洋總編輯杰弗裡·戈德堡(Jeffrey Goldberg)的採訪,後者稱他為深夜的“教父”。萊特曼(Letterman)的深夜電視生涯始於1982年,當時NBC的“深夜”首次亮相,並繼續CBS的“ Late Late Show” 1993 – 2015年。從那以後,他主持了Netflix的談話系列,“我的下一位客人不需要介紹。” “十年前,我足夠聰明,可以取消自己,”萊特曼打趣道。 戈德堡認為,今天,儘管特朗普對媒體發動了攻擊,“我們仍然有一個免費的媒體”,萊特曼回答說:“我們嗎?” 7月,在哥倫比亞廣播公司宣布取消“與斯蒂芬·科爾伯特的後期演出”之後,萊特曼將網絡的行動猛烈抨擊為“純粹的怯ward”。萊特曼在與YouTube共享的視頻中說:“他們沒有做正確的事情。他們沒有按照他應得的處理方式來處理斯蒂芬·科爾伯特(Stephen Colbert) – 該網絡的面孔。”他還對哥倫比亞廣播公司(CBS)宣稱的該節目的理由表示懷疑是“純粹”的財務決定。 萊特曼在大西洋節上談到了科爾伯特的取消時說:“那是不可原諒的。那個男人值得一提……因為埃里森一家人不想讓唐納德·特朗普(Ellison Trump)帶來這一舉動困擾唐納德·特朗普(Donald Trump),所以他們被他擺脫了,所以擺脫了整個節目。 (Skydance Media上個月在拉里·埃里森(Larry Ellison)的主要支持下為派拉蒙(Paramount Global)提供的80億美元交易說,其高管沒有參與“遲到”取消。) 在撰寫本文時,迪斯尼或美國廣播公司(ABC)對金梅爾情況的唯一評論是美國廣播公司(ABC)發言人周三的聲明:“’吉米·金梅爾(Jimmy Kimmel Live)!”將無限期地被搶占。 ”金梅爾沒有發表評論。 上圖:2019年5月23日在洛杉磯舉行的Netflix活動,吉米·金梅爾和大衛·萊特曼 Source…

  • Qwen3.5: Kuelekea Mawakala Asilia wa Multimodal

    Qwen3.5: Kuelekea Mawakala Asilia wa Multimodal. Qwen wa Alibaba ametoa wanamitindo wawili wa kwanza katika mfululizo wa Qwen 3.5 – uzani mmoja wazi, mmiliki mmoja. Zote mbili ni za aina nyingi za uingizaji wa maono. Uzito wazi ni mfano wa Mchanganyiko wa Wataalam unaoitwa Qwen3.5-397B-A17B. Inafurahisha kuona Qwen akiita ufanisi wa kutumikia kama faida ya…

  • Fasulye Makinesi Retrospektif, bölüm 9

    C#, F#, Scala ve benzerlerinden farklı olarak yerleşik herhangi bir kalıp eşleştirmesi olmayan bir dil olan Python’da kısa “örüntü eşleştirme” uygulamak istedim. Mantıksal olarak bir kalıp sadece bir yüklemdir: bir değer alan ve değer kalıpla “eşleşiyorsa” true, aksi takdirde false değerini döndüren bir işlev. Bu bölümün kodu burada. Bu işe başladığımda iki şeyin farkına vardım….

  • 永続的なアンダークラスだけが、それが永続的であると信じている人々です

    ここしばらくの間、AI の誕生によって世代間の富を逃すという「絞首台のユーモア」ミームが根強く存在しています。 API エコノミーの光と影について書いてきた者として、これはテクノロジーによって生み出された再発明されたクラス システムと明らかに類似点があるトピックです。これを信じるための非常に現実的なデータポイントがいくつかあると思います。 Meta FAIR の研究者は年間 50 万ドルを稼いでいますが、Meta SuperIntelligence Labs の研究者は年間 2,500 万ドル以上を稼いでいます 資本主義、特に AI では大きいものはさらに大きくなる傾向があります OpenAIが従業員全員に150万ドルのボーナスを与え、従業員に60億ドルの二次販売を提供するなど、大規模な研究所の評価額が大幅に上昇した一方で、アンスロピック社の評価額は40億ドルから2年間で1,830億ドルに上昇し、ほとんどの従業員はサンフランシスコのオフィスで働くことが予想されているため、サンフランシスコの不動産価格は異常な高騰を引き起こし、土地の所有者と決して所有者になれない借主との間の富の格差が大幅に拡大するはずだ。永久の下層階級。 私は、コーディング エージェントを効果的に最大限に活用できるプログラマーと、懐疑的であり、その懐疑を克服するための個人的な「なるほど」の瞬間が決して得られないようなスキルの問題を抱えているプログラマーとの間に、別の、より小規模なアンダークラスが出現していると思います。なぜなら、ほとんどの優れたエージェント プログラマーの生産性は (最終的には! 今年は無理かもしれません!) ほとんどの Trad プログラマーの生産性をはるかに上回るからです。仕事は、エージェントティック コーディングのラインより上に住む、素晴らしく裕福で楽しい小さなチームと、それよりも下に住む、平凡で人生を嫌う、Jira チケットのロギングを行う大企業の仕事の間で分岐します。 そうです、私はアンダークラスが存在し、格差が拡大することを否定しません。テクノロジーと資本主義の歴史全体がこれを教えてくれており、それが逆転すると期待する理由はありません。ここでバブルを破ってしまったらごめんなさい。 私の問題は、人々が運命論的に冗談を言い、多くの人が密かに皮肉にもそうなると信じていることです。 永続。 いいえ、これは非常に低レベルな考え方です。 あなたはアンダークラスから逃れられる年齢ではありません。 不平等はさておき、 AI はクラスの固定化ではなく流動性も高める。大分類は時間の経過とともに改善されており、減少するものではありません。を除外する – 大分類は、IQ ではなく、あなたの代理店レベルで最もよく行われるようになります。。 これらはすべて客観的に真実であり、日々真実性が高まっています。 人々はこれまでよりも早く英語を学ぶことができるようになりました。 人々は今までよりも早くコーディングを学ぶことができるようになりました。 人々はこれまでよりも早く ML/AI エンジニアリングを学ぶことができるようになりました。 リモートで仕事をしたり、完全にオンラインでビジネスを運営したりすることがこれまでより簡単になりました。 Stripe Atlas/YC により、これまでよりも簡単にスタートアップを開始できるようになりました。 新しい AI モデルとビジネス モデルにより、新興スタートアップ企業は、より速いサイクルで収益を 0…

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *