Lines Matching defs:va
337 tlb_flush_local(vm_offset_t va)
340 KASSERT((va & PAGE_MASK) == 0, ("%s: va %#x not aligned", __func__, va));
343 _CP15_TLBIMVA(va | CPU_ASID_KERNEL);
349 tlb_flush_range_local(vm_offset_t va, vm_size_t size)
351 vm_offset_t eva = va + size;
353 KASSERT((va & PAGE_MASK) == 0, ("%s: va %#x not aligned", __func__, va));
358 for (; va < eva; va += PAGE_SIZE)
359 _CP15_TLBIMVA(va | CPU_ASID_KERNEL);
391 tlb_flush(vm_offset_t va)
394 KASSERT((va & PAGE_MASK) == 0, ("%s: va %#x not aligned", __func__, va));
398 _CP15_TLBIMVAAIS(va),
399 _CP15_TLBIMVA(va | CPU_ASID_KERNEL)
405 tlb_flush_range(vm_offset_t va, vm_size_t size)
407 vm_offset_t eva = va + size;
409 KASSERT((va & PAGE_MASK) == 0, ("%s: va %#x not aligned", __func__, va));
416 for (; va < eva; va += PAGE_SIZE)
417 _CP15_TLBIMVAAIS(va);
420 for (; va < eva; va += PAGE_SIZE)
421 _CP15_TLBIMVA(va | CPU_ASID_KERNEL);
430 #define tlb_flush(va) tlb_flush_local(va)
431 #define tlb_flush_range(va, size) tlb_flush_range_local(va, size)
441 icache_sync(vm_offset_t va, vm_size_t size)
443 vm_offset_t eva = va + size;
446 va &= ~cpuinfo.dcache_line_mask;
448 for ( ; va < eva; va += cpuinfo.dcache_line_size) {
449 _CP15_DCCMVAU(va);
488 dcache_wb_pou(vm_offset_t va, vm_size_t size)
490 vm_offset_t eva = va + size;
493 va &= ~cpuinfo.dcache_line_mask;
494 for ( ; va < eva; va += cpuinfo.dcache_line_size) {
495 _CP15_DCCMVAU(va);
509 dcache_inv_poc(vm_offset_t va, vm_paddr_t pa, vm_size_t size)
511 vm_offset_t eva = va + size;
518 va &= ~cpuinfo.dcache_line_mask;
519 for ( ; va < eva; va += cpuinfo.dcache_line_size) {
520 _CP15_DCIMVAC(va);
536 dcache_inv_poc_dma(vm_offset_t va, vm_paddr_t pa, vm_size_t size)
538 vm_offset_t eva = va + size;
542 va &= ~cpuinfo.dcache_line_mask;
543 for ( ; va < eva; va += cpuinfo.dcache_line_size) {
544 _CP15_DCIMVAC(va);
560 dcache_wb_poc(vm_offset_t va, vm_paddr_t pa, vm_size_t size)
562 vm_offset_t eva = va + size;
565 va &= ~cpuinfo.dcache_line_mask;
566 for ( ; va < eva; va += cpuinfo.dcache_line_size) {
567 _CP15_DCCMVAC(va);
578 vm_offset_t va;
583 va = sva & ~cpuinfo.dcache_line_mask;
584 for ( ; va < eva; va += cpuinfo.dcache_line_size) {
585 _CP15_DCCMVAC(va);
593 va = sva & ~cpuinfo.dcache_line_mask;
594 for ( ; va < eva; va += cpuinfo.dcache_line_size) {
595 _CP15_DCIMVAC(va);