Accelerate

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.15.0).

Join the Hugging Face community

and get access to the augmented documentation experience

Collaborate on models, datasets and Spaces

Faster examples with accelerated inference

Switch between documentation themes

to get started

التثبيت

قبل أن تبدأ، ستحتاج إلى إعداد بيئتك، وتثبيت الحزم المناسبة، وإعداد Accelerate. يتم اختبار Accelerate على Python 3.11+.

يتوفر Accelerate على pypi وconda، وكذلك على GitHub. أدناه تفاصيل التثبيت من كلٍّ منها:

pip

لتثبيت Accelerate من pypi، قم بتنفيذ ما يلي:

pip install accelerate

conda

يمكن أيضًا تثبيت Accelerate باستخدام conda من خلال:

conda install -c conda-forge accelerate

المصدر

تُضاف ميزات جديدة كل يوم لم تُطلق بعد. لتجربتها بنفسك، قم بالتثبيت من مستودع GitHub:

pip install git+https://github.com/huggingface/accelerate

إذا كنت تعمل على المساهمة في المكتبة أو ترغب في التعامل مع الشيفرة المصدرية ورؤية النتائج مباشرة أثناء تشغيل الشيفرة، فيمكن تثبيت نسخة قابلة للتعديل من نسخة مستنسخة محليًا من المستودع:

git clone https://github.com/huggingface/accelerate
cd accelerate
pip install -e .

الإعداد

بعد التثبيت، تحتاج إلى تكوين Accelerate بما يتوافق مع إعداد النظام الحالي للتدريب. لذلك، قم بتشغيل ما يلي والإجابة على الأسئلة التي ستُطرح عليك:

accelerate config

لكتابة إعداد أساسي لا يتضمن خيارات مثل إعداد DeepSpeed أو التشغيل على وحدات TPU، يمكنك تنفيذ الأمر التالي بسرعة:

python -c "from accelerate.utils import write_basic_config; write_basic_config(mixed_precision='fp16')"

سيستخدم Accelerate تلقائيًا الحد الأقصى لعدد وحدات معالجة الرسومات المتاحة ويضبط وضع الدقة المختلطة.

للتحقق من أن إعداداتك تبدو سليمة، قم بتشغيل:

accelerate env

يُظهر المثال أدناه مخرجات تصف وحدتي معالجة رسومية (GPU) على جهاز واحد دون استخدام الدقة المختلطة:

- `Accelerate` version: 1.2.0.dev0
- Platform: Linux-6.8.0-47-generic-x86_64-with-glibc2.35
- `accelerate` bash location: /home/zach/miniconda3/envs/accelerate/bin/accelerate
- Python version: 3.10.13
- Numpy version: 1.26.4
- PyTorch version (GPU?): 2.5.1+cu124 (True)
- PyTorch XPU available: False
- PyTorch NPU available: False
- PyTorch MLU available: False
- PyTorch MUSA available: False
- System RAM: 187.91 GB
- GPU type: NVIDIA GeForce RTX 4090
- `Accelerate` default config:
        - compute_environment: LOCAL_MACHINE
        - distributed_type: MULTI_GPU
        - mixed_precision: no
        - use_cpu: False
        - debug: False
        - num_processes: 2
        - machine_rank: 0
        - num_machines: 1
        - gpu_ids: all
        - rdzv_backend: static
        - same_network: True
        - main_training_function: main
        - enable_cpu_affinity: False
        - downcast_bf16: no
        - tpu_use_cluster: False
        - tpu_use_sudo: False
        - tpu_env: []

Update on GitHub

←🤗 Accelerate جولة سريعة→