Branch data Line data Source code
1 : : /* SPDX-License-Identifier: GPL-2.0 */ 2 : : #ifndef _ASM_X86_PAGE_64_H 3 : : #define _ASM_X86_PAGE_64_H 4 : : 5 : : #include <asm/page_64_types.h> 6 : : 7 : : #ifndef __ASSEMBLY__ 8 : : #include <asm/alternative.h> 9 : : 10 : : /* duplicated to the one in bootmem.h */ 11 : : extern unsigned long max_pfn; 12 : : extern unsigned long phys_base; 13 : : 14 : : extern unsigned long page_offset_base; 15 : : extern unsigned long vmalloc_base; 16 : : extern unsigned long vmemmap_base; 17 : : 18 : 8029418 : static inline unsigned long __phys_addr_nodebug(unsigned long x) 19 : : { 20 [ + + + + : 7708420 : unsigned long y = x - __START_KERNEL_map; + + ] 21 : : 22 : : /* use the carry flag to determine if x was < __START_KERNEL_map */ 23 [ + + + + : 7780076 : x = y + ((x > y) ? phys_base : (__START_KERNEL_map - PAGE_OFFSET)); + + + + + - + - + - + - + - + - + + + - - + - + - + - + - + - - ] 24 : : 25 [ + + + + : 7717052 : return x; + + + + + + + + + - # # # # # # # # ] 26 : : } 27 : : 28 : : #ifdef CONFIG_DEBUG_VIRTUAL 29 : : extern unsigned long __phys_addr(unsigned long); 30 : : extern unsigned long __phys_addr_symbol(unsigned long); 31 : : #else 32 : : #define __phys_addr(x) __phys_addr_nodebug(x) 33 : : #define __phys_addr_symbol(x) \ 34 : : ((unsigned long)(x) - __START_KERNEL_map + phys_base) 35 : : #endif 36 : : 37 : : #define __phys_reloc_hide(x) (x) 38 : : 39 : : #ifdef CONFIG_FLATMEM 40 : : #define pfn_valid(pfn) ((pfn) < max_pfn) 41 : : #endif 42 : : 43 : : void clear_page_orig(void *page); 44 : : void clear_page_rep(void *page); 45 : : void clear_page_erms(void *page); 46 : : 47 : 152514 : static inline void clear_page(void *page) 48 : : { 49 : 152514 : alternative_call_2(clear_page_orig, 50 : : clear_page_rep, X86_FEATURE_REP_GOOD, 51 : : clear_page_erms, X86_FEATURE_ERMS, 52 : : "=D" (page), 53 : : "0" (page) 54 : : : "cc", "memory", "rax", "rcx"); 55 : 0 : } 56 : : 57 : : void copy_page(void *to, void *from); 58 : : 59 : : #endif /* !__ASSEMBLY__ */ 60 : : 61 : : #ifdef CONFIG_X86_VSYSCALL_EMULATION 62 : : # define __HAVE_ARCH_GATE_AREA 1 63 : : #endif 64 : : 65 : : #endif /* _ASM_X86_PAGE_64_H */