同じIDの行を配列にマージします

id_documentで配列にインデックスを付けます 、次のように配列に新しいエントリを追加します：

while ($row = mysql_fetch_array($sql)) {
    $sentence[ $row['id_document'] ][] = $row['sentence'];
}