Eğer dünyayı yakından takip ediyorsanız yapay zekaMuhtemelen bu ismi daha önce duymuşsunuzdur. Derin AramaÇin'den gelen bu yapay zeka modeli, sunduğu özelliklerle tüm sektörün dikkatini çekti. OpenAI gibi devlerin performansına çok benzer Veya Google, ancak çok daha düşük bir hesaplama ve dağıtım maliyetiyle. Tüm bunlar, Silikon Vadisi'ndeki birçok kişinin kaşlarını çatmasına ve dikkatlice incelemeye başlamasına neden oldu.
DeepSeek'i özellikle ilginç kılan şey, bir model olmasıdır MIT lisansı altında açık kaynakBu, herkesin onu indirebileceği, denetleyebileceği, değiştirebileceği, ticari olarak kullanabileceği ve sizin için en ilginç kısmı, bunu kendi bilgisayarınızda yerel olarak çalıştırınVerilerinizi harici sunuculara göndermeden, konuşmalarınızın Çin veya başka bir ülkedeki veri merkezlerinde depolanmasını önleyerek, gizlilik ve kontrol.
DeepSeek nedir ve neden bu kadar çok konuşuluyor?
DeepSeek, sunduğu avantajlar nedeniyle küresel sohbete dahil oldu. sohbet ve muhakeme görevlerinde çok yüksek düzeyde sonuçlar Büyük tescilli modellerden çok daha düşük bir maliyetle. Açık yaklaşımı, onu kendi modellerini yayınlayan Meta, Google veya Microsoft'un önerileriyle aynı seviyeye getiriyor. Copilot ve DeepSeek arasındaki karşılaştırmada gösterildiği gibiAncak maliyet ve verimlilikte agresiflik tüm sektörde yankı uyandırdı.
Bu proje açık kaynak ekosistemini açıkça destekliyor: MIT lisansıBunu ticari projelere entegre edebilir, değiştirebilir, diğer araçlarla birleştirebilir ve genel olarak kendi yapay zeka altyapınızı oluşturun Test çalıştırmak veya ciddi bir şey devreye almak istediğinizde her seferinde ödeme yapmak zorunda kalmadan. Bu durum, bazı sektör liderlerinin açık kaynaklı yazılımlara ilişkin tutumlarını yeniden gözden geçirmeleriBu da onun ne kadar etkili olduğunu gösteriyor.
Ayrıca, en çekici noktalardan biri de DeepSeek'in şu şekilde tasarlanmış olmasıdır: kullanıcı bilgisayarlarında yerel olarak çalıştır Ana modelinin sadeleştirilmiş, küçültülmüş versiyonları sayesinde, temel yeteneklerinden yararlanmak için koca bir veri merkezine ihtiyacınız yok; iyi bir PC ile denemeler yapmaya başlayabilir ve onu günlük asistanınız olarak kullanabilirsiniz.
Bir diğer önemli ayrıntı ise DeepSeek'in bu konuya çok fazla odaklanmış olmasıdır. adım adım muhakeme. R1 modeliDaha sonra tartışacağımız , etiketler arasındaki düşünce sürecini gösterebilmektedir Belirli araçlarla çalıştırdığınızda, size nihai cevabı vermeden önce sorunları nasıl parçalara ayırdığını görmenizi sağlar.
Tamamlanmış modeller ve sadeleştirilmiş modeller: Neden "büyük adamı" kurmamalısınız?
DeepSeek tek bir model değil, bir ailedir. Kataloğun en üstünde... Derin Arama-R1:671b, bazı gerçek canavarlarla 671.000 milyar parametreSıkıştırılmış biçimde, bu model yaklaşık olarak şöyledir: 120 GB (orijinal 720 GB'tan), düzgün çalışması için ihtiyaç duyduğu kaynak ölçeği hakkında bir fikir veriyor.
Size bir fikir vermek gerekirse, bir yaratıcı gibi Matthew Berman Hatta AMD EPYC işlemcili bir sunucu kullanarak R1:671b'yi bulutta test etme fırsatı bile buldu 128 çekirdek, Dahası 2 TB RAM, birkaç NVMe SSD sürücüsü ve 8 AMD Instinct MI300X GPU Her biri 192 GB'lık. Temel olarak, halk arasında bilinen adıyla "NASA bilgisayarı", evimizdeki masaüstü veya dizüstü bilgisayarlardan çok farklı.
Karşı tarafta ise versiyonlar var damıtılmış veya indirgenmiş DeepSeek'ten. Bu varyantlar, daha küçük bir modelin daha büyük bir modelin davranışını taklit etmeyi öğrendiği ve kendi avantajlarından yararlandığı bir teknik kullanır. ince ayar ve optimize edilmiş ayarlarıOrijinal modelin birçok özelliği korunmuştur, ancak çok daha az parametre ve daha düşük kaynak tüketimi ile. DeepSeek'ten damıtılmış modeller Genellikle aşağıdadırlar 8.000 milyar parametre ve boyutları 4 ila 5 GB arasında değişir. Bu, bunları normal bir bilgisayarda indirin, saklayın ve çalıştırın Ekipmanınız alev almadan. Biraz hassasiyet ve güçten fedakarlık edersiniz, ancak karşılığında onları her gün kullanabilirsiniz.
Bu daha hafif sürümlerle, bir bilgisayar 32 GB RAM ve 8 GB VRAM'li özel bir GPU (Örneğin, bir AMD Radeon RX 580) DeepSeek'i mükemmel bir şekilde çalıştırabilir. Yanıtlar, web'deki veya güçlü sunuculardaki yanıtlardan biraz daha yavaş üretilir, ancak deneyim tamamen işlevseldir. GPU neredeyse %100 yükte model oluşturulurken.
Windows 11'de DeepSeek'i yerel olarak kullanmanın avantajları
DeepSeek'i Windows 11'inize getirmenin en büyük cazibesi, bir bulut hizmetine bağımlı olmaktan çıkıp, makinenizde çalışan kendi yapay zekanızBu, birçok kullanıcı için ilk kurulum zahmetini fazlasıyla telafi eden bir dizi avantajı beraberinde getiriyor.
Birincisi çok açık: DeepSeek'i kullanabilirsiniz İnternet bağlantısı yok Şablon indirildikten sonra. Farklı ağlar arasında geçiş yapan bir dizüstü bilgisayarda çalışıyorsanız idealdir.
İkinci büyük avantaj ise gizlilik ve veri kontrolüHer şey bilgisayarınızda çalıştığı için, modelin girdi ve çıktıları asla bilgisayarınızdan dışarı çıkmaz. Hassas bilgiler, şirket içi belgeler veya kişisel verilerle uğraşıyorsanız, görüşmelerinizin hangi sunuculara aktarılacağı konusunda endişelenmenize gerek yok.
Ayrıca, paylaşılan bir altyapıya bağımlı olmadığınız için, Kullanıcı yoğunluğundan kaynaklanan bekleme kuyrukları, hizmet kesintileri veya sınırlamalar yokBilgisayarınızda yeterli kaynak varsa, DeepSeek, modeli başka kaç kişinin kullandığına bakılmaksızın, yalnızca donanımınızın kaldırabileceği kaynaklara göre yanıt verecektir.
Son olarak, DeepSeek'in şu anda var olduğu gerçeği açık kaynaklı ve yerel olarak çalıştırılabilir Bu, denemeler yapmak, diğer uygulamalarla entegre etmek, iş akışlarını otomatikleştirmek veya tamamen kendi kontrolünüz altında bir yapay zeka test ortamı kurmak istiyorsanız onu ideal bir aday haline getirir. Geliştiriciler ve ileri düzey kullanıcılar için gerçek bir keyiftir.
En iyi şekilde yararlanmak için önerilen donanım gereksinimleri
DeepSeek'in damıtılmış versiyonları daha kaynak dostu olacak şekilde tasarlanmış olsa da, birkaç şeyin farkında olmak önemlidir. minimum donanım özellikleri Yani deneyim sinir bozucu değil. Teknik olarak, daha az güçlü makinelerde çalıştırabilirsiniz, ancak bu özelliklere ne kadar yaklaşırsanız o kadar iyi.
Hafıza alanında en azından şunlara sahip olmanız şiddetle tavsiye edilir: GB RAM 16Biraz esneklikle çalışmak ve aynı anda başka programlar açmak istiyorsanız, 32 GB ideal bir seçenektir. Daha az bellekle, sürekli gecikme veya Windows'un diske sayfa atmaya başlaması riskiyle karşı karşıya kalırsınız; bu da performansta ciddi bir düşüşe neden olur.
Grafik kartına gelince, asıl mesele şu: Mevcut VRAMDeepSeek R1'in 7B veya 8B gibi daha akıcı bir sürümü için 6-8 GB VRAM'li bir GPU yeterli olacaktır, ancak ne kadar fazla boş alanınız varsa o kadar iyidir. Bilgisayarınızda özel bir ekran kartı yoksa, bazı modeller yalnızca CPU'ya güvenebilir, ancak performans önemli ölçüde düşük olacaktır.
Depolama için en azından şunlara sahip olmalısınız: Model başına 5 GB ücretsiz Yüklemek istediğiniz sabit diskin yanı sıra diğer modeller ve Windows 11 için ek alan da mevcuttur. Yükleme süreleri ve büyük dosyalara erişim önemli ölçüde daha hızlı olduğundan, mekanik sabit disk yerine SSD kullanmanız şiddetle tavsiye edilir.
Modern bir bilgisayarınız varsa Entegre NPU (AI-özel işlemci)Windows 11, çeşitli görevlerde kullanım desteğini kademeli olarak artıracaktır. Ancak şu anda DeepSeek'in yükünün büyük bir kısmı, özellikle daha zorlu LLM modelleriyle çalışırken, öncelikle GPU ve CPU'ya binecektir.
Ollama ile PC'nizde DeepSeek: Konsoldan hafif seçenek
DeepSeek'i Windows 11'de yerel olarak kullanmanın en basit ve en güçlü yollarından biri OllamaYapay zeka model yöneticisi olarak işlev gören ve sistem konsolundan çalıştırılan bir programdır. Geleneksel bir grafik arayüzü yoktur, ancak karşılığında... İndirme ve yürütme sürecini büyük ölçüde basitleştirir.
İndirme ve yükleme
Başlamak için resmi Ollama web sitesine gitmeniz gerekiyor. ollama.comve düğmesine basın İndirSayfa işletim sisteminizi otomatik olarak algılıyor ancak dilerseniz macOS veya GNU/Linux gibi uyumlu başka bir platformun yükleyicisini indirebilirsiniz.
Dosyayı indirdikten sonra, tek yapmanız gereken Yükleyiciyi çalıştırın ve sihirbazı izleyinİşlem çok basit: İleri'ye tıklayın, kabul edin, yükleyin ve işte bu kadar. Ollama oldukça hafif bir uygulama olduğundan bilgisayarınıza tamamen kurulması uzun sürmeyecektir.
Kurulum tamamlandıktan sonra Ollama'yı başlatmanız gerekiyor. Açtığınızda hiçbir şey olmuyormuş gibi görünebilir, ancak program aslında orada öylece duruyor. arka planda bir hizmet olarak çalışıyorBundan sonra sihir Windows 11 komut penceresinden gerçekleşiyor.
Açın Yönetici ayrıcalıklarına sahip Komut İstemi (CMD) Veya dilerseniz Windows Terminal'i kullanabilirsiniz. Karmaşık arayüzler veya gizli menüler olmadan, Ollama ile DeepSeek'i indirmek ve başlatmak için gerekli komutları burada yazacaksınız.
Ollama ile DeepSeek R1 8B'yi başlatın
Ollama artık çalışır durumda olduğuna göre, bir sonraki adım sabit diskinize DeepSeek yüklemektir. Çoğu Windows 11 kullanıcısı için en pratik sürüm şudur: derin arama-r1:8b, daha normal bilgisayarlar için tasarlanmış, yaklaşık 4,7 GB boyutundaki R1 modelinin küçültülmüş bir çeşididir.
Çalıştırmadan indirmek için komut penceresine aşağıdaki komutu yazın ve Enter'a basın: ollama çekme deepseek-r1:8bBu komut Ollama'ya modeli kütüphanesinden indirmesini ve kullanmak istediğinizde hazır bulundurmasını söyler.
İndirme işlemi birkaç gigabayt yer kaplar, bu nedenle süre dosya türüne bağlı olacaktır. internet bağlantınızın hızıOllama, modelin bilgisayarınıza başarıyla kaydedildiğini onaylayana kadar ilerleme durumunu göreceksiniz. İşlem tamamlandığında, DeepSeek R1 8B kullanıma hazır olacaktır.
Model çalışırken, komut penceresi bir tür minimalist sohbetİsteminizi (isteğinizi veya sorunuzu) yazabilir ve DeepSeek'in cevabı satır satır oluşturmasını izleyebilirsiniz. Arayüz basit olsa da, birçok kullanım için fazlasıyla yeterli ve oldukça anlaşılırdır.
Ollama'da versiyon değiştirme ve oturumu kontrol etme
Ollama'nın ilginç yanlarından biri de, size izin vermesidir farklı varyasyonları deneyin Aynı modelin yalnızca farklı bir etiketi var. DeepSeek R1 için, mevcut sürümleri Ollama kütüphane sayfasındaki "" bölümünden kontrol edebilirsiniz. deepseek-r1 etiketleri.
Sürümü değiştirmek için komuttaki sayıyı değiştirmeniz yeterlidir. Örneğin, şunu yazabilirsiniz: ollama run deepseek-r1:7b o ollama run deepseek-r1:x Yayımlanan seçeneklere göre. Parametre sayısı ne kadar yüksekse, o kadar fazla güçlü ve tam modele yakın Bu bir deneyim olacak, ancak aynı zamanda bilgisayarınızdan daha fazla kaynak talep edecek.
DeepSeek'i komut satırından kullanırken şunları yapabilirsiniz: İspanyolca başlatma istemleri Sorun değil. Model daha çok İngilizceye yöneliyor, ancak açıkça İspanyolca yanıt vermesini isterseniz veya girdilerinizde sürekli olarak İspanyolca kullanırsanız, fazla sorun yaşamadan uyum sağlar.
DeepSeek R1'in merak uyandıran detaylarından biri de, Etiketler arasındaki iç akıl yürütmeYani, nihai cevabı görmeden önce, modelin problemi zihinsel olarak nasıl parçalara ayırdığını gözlemleyebilirsiniz. Bu, onların "düşünme süreçlerini" daha iyi anlamanın ve mantıklarındaki olası kusurları tespit etmenin iyi bir yoludur.
Ollama'da DeepSeek oturumundan çıkmak istediğinizde, sadece şu komutu yazmanız yeterlidir /HoşçakalBu, pencereyi kapatmadan normal konsola dönmenizi sağlar. Ayrıca, kullanabileceğiniz diğer faydalı komutları görmek isterseniz, şunu yazabilirsiniz: /? Ollamama'nın kendisi size en önemli seçenekleri gösterebilsin.
LM Studio sayesinde Windows 11'de DeepSeek'i grafiksel bir arayüzle kullanma
Konsoldan bir yapay zeka ile konuşmak biraz sıkıcı geliyorsa, bir çözüm seçebilirsiniz. temiz ve modern grafik arayüzüİşte tam bu noktada devreye giriyor. LM StüdyosuWindows, macOS ve Linux için kullanılabilen, LLM'leri oldukça kullanıcı dostu bir şekilde yerel olarak indirmenize ve çalıştırmanıza olanak tanıyan bir uygulamadır.
LM Studio şu şekilde işlev görür: dil modeli merkeziKendi arayüzünden şablonları arayabilir, indirebilir, yapılandırabilir ve terminale dokunmadan sohbet başlatabilirsiniz. Ayrıca, ChatGPT gibi web tabanlı sohbet robotlarına çok benzer bir konuşma ortamı sunması, onu daha az teknik bilgiye sahip kullanıcılar için ideal hale getirir.
Yüklemek için resmi web sitesine gidin, lmstudio.aiWindows yükleyicisini indirin. Çalıştırdıktan sonra, kurulum işlemi sihirbazı takip etmek kadar basittir ve karmaşık seçenekler içermez. Birkaç dakika içinde LM Studio kullanıma hazır olacaktır.
İlk açtığınızda LM Studio genellikle modeli indirmeyi teklif eder. Meta'dan Flame 3.1 8B İlk örnek olarak, bu indirmeyi kabul etmeniz ve kurulumuna ve yüklenmesine izin vermeniz önerilir, çünkü bu, aynı arayüzden diğer modelleri daha sorunsuz yönetmenizi kolaylaştırır.
Llama 3.1 8B artık kurulu ve kullanılabilir olduğuna göre, bir sonraki adım şu olacak: DeepSeek'i damıtılmış haliyle bulun ve indirin, Windows 11'deki LM Studio'da ana sohbet şablonunuz olarak kullanmak için.
LM Studio'da DeepSeek'i arayın, indirin ve yükleyin
LM Studio'nun sol kenar çubuğunda birkaç simge göreceksiniz. DeepSeek'i bulmak için, ilgili bölüme karşılık gelen simgeye tıklayın. Keşfet, mevcut modellerin arama motoru ve kataloğu olarak işlev görür.
Alanında Model AramaÜstte bir arama alanı göreceksiniz. "DeepSeek" yazın ve uyumlu modellerin listesinin görünmesini bekleyin. Genellikle, diğerlerinin yanı sıra, R1 tabanlı iki varyant gösterilir: DeepSeek R1 Damıtma (Qwen 7B) y DeepSeek R1 Damıtma (Alev 8B).
Her iki seçenek de Windows 11 bilgisayarınızda kullanılabilir. Llama 8B tabanlı sürüm genellikle biraz daha büyüktür, çünkü şunları içerir: yaklaşık bir milyar ekstra parametreAncak biraz daha fazla kapasite de sunabilir. Ekibinizin kaynaklarına en uygun olanı seçin.
İstediğiniz versiyonu seçtikten sonra modeli seçip butona basın. İndirLM Studio, gerekli tüm dosyaların indirilmesini sağlayacaktır. Ollama'da olduğu gibi, süre esas olarak internet bağlantı hızınıza ve modelin boyutuna bağlı olacaktır.
İndirme tamamlandığında LM Studio size bir açılır pencere bildirimi İşlemin tamamlandığını belirten bir bildirim. Bu bildirim genellikle şuna benzer bir düğme içerir: Yük Modeli böylece DeepSeek'i hemen yükleyip sohbete hazır hale getirebilirsiniz.
LM Studio'da DeepSeek ile sohbeti yapılandırın ve başlatın
Bir kez tıkladığınızda Yük Modeli LM Studio, bildirimden veya indirilen modeller listesinden DeepSeek'i belleğe yükleyecek ve bunu bir konuşma motoru olarak kullanmanıza olanak tanıyacaktır. Bir sonraki adım, şu bölüme gitmektir: sohbet, ayrıca sol kenar çubuğundaki menüde.
Sohbet penceresinin üst kısmında, şu şekilde bir metin içeren bir buton veya açılır menü göreceksiniz: Yüklenecek bir model seçinBuraya tıklayın ve az önce indirdiğiniz DeepSeek modelini seçin. Bu, o modeli LM Studio'daki gelecekteki konuşmalarınıza aktaracak model haline getirecektir.
DeepSeek'i seçtiğinizde program size bir dizi yapılandırma seçenekleriMaksimum token sayısı, sıcaklık ayarları, üst sınır ve diğer gelişmiş parametreler gibi. Neleri ayarlayacağınızdan emin değilseniz, varsayılan ayarları bırakıp tekrar dokunabilirsiniz. Yük Modeli Para İmparatoru.
Yüklendikten sonra, aşağıdaki metin kutusuna ilk sorgunuzu veya görevinizi yazabilirsiniz. Arayüzde görünen logo LM Studio'ya aittirDeepSeek'in değil, ama içeride cevapları üreten DeepSeek'in kendisidir.
Konuşmanın İspanyolca akması için, İspanyolca yazmaya kendiniz başlayınModel, soruyu sorduğunuz dili takip etme eğiliminde olacaktır. Eğer size İngilizce cevap verirse, ona cevapların İspanyolca (İspanya'dan) olmasını istediğinizi açıkça söyleyebilirsiniz ve genellikle buna göre adapte olacaktır.
DeepSeek'in damıtılmış sürümlerinin sunduğu her şeyle birlikte, açık modeller, Ollama veya LM Studio gibi araçlar ve orta düzeyde modern bir Windows 11 PC'nin gücü, bilgisayarınızı gerçek bir kişisel yapay zeka laboratuvarıŞirketinizde güçlü bir yapay zekaya sahip olmak size özgürlük, gizlilik ve üçüncü taraflarca getirilen sınırlamalar olmadan öğrenme ve deneme yapma konusunda geniş bir alan sağlar.
