강화 학습을 통한 디바이스 배치 최적화

... 다수의 하드웨어 디바이스에 대한 기계 학습 모델 연산용 배치를 결정하는 방법이 기술된다. 이 방법은 다수의 하드웨어 디바이스상에서 분산 처리를 위해 배치될 기계 학습 모델을 특정하는 데이터를 수신하는 단계와; 데이터로부터, 연산 임베딩의 시퀀스를 생성하는 단계로서, 그 시퀀스내의 각 연산 임베딩은 기계 학습 모델의 처리를 수행하는데 필요한 하나 이상의 개별 연산을 특징화하고; 배치 순환 신경망의 복수의 네트워크 파라미터의 복수의 네트워크 파라미터의 제1 값에 따라 배치 순환 신경망을 사용하여 연산 임베딩 시퀀스를 처리하여, 복수의 디바이스에 대한 시퀀스내의 연산 임베딩에 의해 특징화된 연산들의 배치를 정의하는 네트워크 출력을 생성하는 단계와; 네트워크 출력에 의해 정의된 배치에 따라 다수의 디바이스상에 연산들을 배치함으로써 다수의 하드웨어 디바이스에 의해 처리하기 위한 기계 학습 모델을 스케줄링하는 단계를 포함한다.