GB10 சூப்பர்சிப் அமைப்புகள்
NVIDIA GB10 கிரேஸ் பிளாக்வெல் சூப்பர்சிப்பை அடிப்படையாகக் கொண்ட அமைப்புகள்.
| புகைப்படம் | தயாரிப்பு | விலை | திறன் |
|---|
மாதிரி திறனைப் புரிந்துகொள்ளுதல்
மாதிரி திறன் என்பது ஒரு AI மாதிரியில் உள்ள அளவுருக்களின் எண்ணிக்கையைக் குறிக்கிறது (எ.கா. 70B = 70 பில்லியன் அளவுருக்கள்). பெரிய மாதிரிகள் பொதுவாக அதிக நினைவகம் மற்றும் கணினி திறனைத் தேவைப்படுகின்றன, ஆனால் மேம்பட்ட பகுத்தறிதல் மற்றும் வெளியீட்டுத் தரத்தை வழங்க முடியும்.
துல்லியம் (FP16 / FP8 / FP4) கொடுக்கப்பட்ட மாதிரி திறனுக்கு எவ்வளவு நினைவகம் தேவைப்படுகிறது என்பதை பாதிக்கிறது: குறைந்த துல்லிய வடிவங்கள் ஒவ்வொரு கீழ்நிலைக்கும் நினைவகத் தேவைகளை தோராயமாக பாதியாக்குகின்றன (FP16 → FP8 → FP4), இது வெளியீட்டுத் துல்லியத்தில் சில தீங்குகளை ஏற்படுத்துகிறது.
| மாதிரி அளவு | வழக்கமான நினைவகம் (FP16) | வழக்கமான நினைவகம் (FP4) |
|---|---|---|
| ~70B | ~140GB | ~40GB |
| ~120B | ~240GB | ~65GB |
| ~405B | ~810GB | ~220GB |
| ~700B | ~1.4TB | ~380GB |