AMD Workstation Infobit vs DeepSeek
DeepSeek-R1:70b
Abbiamo provato a capire come pensa un’Intelligenza Artificiale e per farlo, sfruttando la fase di collaudo di una nostra workstation assemblata, abbiamo posto una domanda etica e filosofica al nostro modello.
Per questo test abbiamo utilizzato la seguente Workstation targata Infobit:
- Case: be quiet!
- Processore: AMD Threadripper 7960X
- Dissipatore: Noctua – NH-U14S DX-4677 – NH-U14S DX-4677 NH-U14S DX-4677
- Memoria RAM: 4 x (DIMM DDR5 1 x 64 GB ECC) Tot. 256GB
- Scheda madre: ATX esteso AMD TRX50 Socket sTR5 DDR5-SDRAM n. slot RAM 4 – Wi-Fi
- Scheda video: NVIDIA RTX A6000 48GB raffreddamento Attivo – 1 ventola/a
- Disco: 1 x (SSD M.2 1000 GB PCI Express 5.0 NVMe) – Tot. 1000GB
- Secondo Disco: 1 x (SSD M.2 1000 GB PCI Express 4.0 NVMe) – Tot. 1000GB
- Alimentatore: ATX 1600W Totalmente Modulare
Attraverso CUDA e la memoria di una NVIDIA RTX A6000, utilizzando come modello il linguaggio da 70 miliardi di parametri DeepSeek-R1:70b, che utilizza le API di Ollama, abbiamo visto l’intero ragionamento che viene fatto dietro questa domanda:
“Quali sono le implicazioni filosofiche ed etiche dell’intelligenza artificiale avanzata, considerando sia la possibilità di una coscienza artificiale che il suo impatto sulla società e sull’autonomia umana?”
Nel video si evidenzia sia l’assorbimento in watt (circa 573 di picco) che il ragionamento implica, che l’utilizzo della RAM della GPU che si attesta intorno ai 45GB.
Il ragionamento, compreso tra i tag “Think”, inizia intorno ai 50 secondi del video e termina verso 1:50 secondi dello stesso, dopodiché parte la risposta in inglese sul quesito. Il video termina con la richiesta di traduzione in italiano.
