Uno de los objetivos del paralelismo es el procesamiento y manipulacion de grandes arreglos de datos y variables. En un computador de memoria distribuida un arreglo puede ser ubicado en la memoria de tal forma que distintos procesadores pueden actuar sobre distintas partes del arreglo en forma directa. En caso de que un procesador requiera de datos que no estén en la memoria que el accede directamente éste debe poder solicitar al procesador correspondiente dichos datos.
El HPF High Preformance Fortran ofrece varias alternativas para realizar estas tareas mediante un conjunto de directivas: INDEPENDET, DISTRIBUTE, REDISTRIBUTE, PROCESSORS, ALIGN, REALIGN, INHERIT, TEMPLATE, COMBINED y SEQUENCE; la clausula NEW; los atributo DYNAMIC y PURE; y la estructura FORALL.
Las líneas de directivas de HFP deben iniciar con !HPF$, CHPF$ o *HPF$, por ejemplo:
!HPF$ PROCESSORS p(2,2) ! Arreglo logico de procesadores
Es importante destacar que el exito de un programa paralelo, más que del lenguaje utilizado, depende de una selección adecuada de la distribución de los datos en la memoria para garantizar una alta tasa de trabajo con datos ubicados en la memoria de cada procesador y un mínimo de comunicación de datos entre procesadores.