mirror of
https://github.com/lkl/linux.git
synced 2025-12-19 16:13:19 +09:00
vfio/pci: Split linux/vfio_pci_core.h
The header in include/linux should have only the exported interface for other vfio_pci modules to use. Internal definitions for vfio_pci.ko should be in a "priv" header along side the .c files. Move the internal declarations out of vfio_pci_core.h. They either move to vfio_pci_priv.h or to the C file that is the only user. Reviewed-by: Kevin Tian <kevin.tian@intel.com> Signed-off-by: Jason Gunthorpe <jgg@nvidia.com> Reviewed-by: Cornelia Huck <cohuck@redhat.com> Link: https://lore.kernel.org/r/1-v2-1bd95d72f298+e0e-vfio_pci_priv_jgg@nvidia.com Signed-off-by: Alex Williamson <alex.williamson@redhat.com>
This commit is contained in:
committed by
Alex Williamson
parent
b90cb10531
commit
e34a0425b8
@@ -25,7 +25,7 @@
|
|||||||
#include <linux/types.h>
|
#include <linux/types.h>
|
||||||
#include <linux/uaccess.h>
|
#include <linux/uaccess.h>
|
||||||
|
|
||||||
#include <linux/vfio_pci_core.h>
|
#include "vfio_pci_priv.h"
|
||||||
|
|
||||||
#define DRIVER_AUTHOR "Alex Williamson <alex.williamson@redhat.com>"
|
#define DRIVER_AUTHOR "Alex Williamson <alex.williamson@redhat.com>"
|
||||||
#define DRIVER_DESC "VFIO PCI - User Level meta-driver"
|
#define DRIVER_DESC "VFIO PCI - User Level meta-driver"
|
||||||
|
|||||||
@@ -26,7 +26,7 @@
|
|||||||
#include <linux/vfio.h>
|
#include <linux/vfio.h>
|
||||||
#include <linux/slab.h>
|
#include <linux/slab.h>
|
||||||
|
|
||||||
#include <linux/vfio_pci_core.h>
|
#include "vfio_pci_priv.h"
|
||||||
|
|
||||||
/* Fake capability ID for standard config space */
|
/* Fake capability ID for standard config space */
|
||||||
#define PCI_CAP_ID_BASIC 0
|
#define PCI_CAP_ID_BASIC 0
|
||||||
|
|||||||
@@ -28,7 +28,7 @@
|
|||||||
#include <linux/nospec.h>
|
#include <linux/nospec.h>
|
||||||
#include <linux/sched/mm.h>
|
#include <linux/sched/mm.h>
|
||||||
|
|
||||||
#include <linux/vfio_pci_core.h>
|
#include "vfio_pci_priv.h"
|
||||||
|
|
||||||
#define DRIVER_AUTHOR "Alex Williamson <alex.williamson@redhat.com>"
|
#define DRIVER_AUTHOR "Alex Williamson <alex.williamson@redhat.com>"
|
||||||
#define DRIVER_DESC "core driver for VFIO based PCI devices"
|
#define DRIVER_DESC "core driver for VFIO based PCI devices"
|
||||||
@@ -41,6 +41,23 @@ static bool disable_idle_d3;
|
|||||||
static DEFINE_MUTEX(vfio_pci_sriov_pfs_mutex);
|
static DEFINE_MUTEX(vfio_pci_sriov_pfs_mutex);
|
||||||
static LIST_HEAD(vfio_pci_sriov_pfs);
|
static LIST_HEAD(vfio_pci_sriov_pfs);
|
||||||
|
|
||||||
|
struct vfio_pci_dummy_resource {
|
||||||
|
struct resource resource;
|
||||||
|
int index;
|
||||||
|
struct list_head res_next;
|
||||||
|
};
|
||||||
|
|
||||||
|
struct vfio_pci_vf_token {
|
||||||
|
struct mutex lock;
|
||||||
|
uuid_t uuid;
|
||||||
|
int users;
|
||||||
|
};
|
||||||
|
|
||||||
|
struct vfio_pci_mmap_vma {
|
||||||
|
struct vm_area_struct *vma;
|
||||||
|
struct list_head vma_next;
|
||||||
|
};
|
||||||
|
|
||||||
static inline bool vfio_vga_disabled(void)
|
static inline bool vfio_vga_disabled(void)
|
||||||
{
|
{
|
||||||
#ifdef CONFIG_VFIO_PCI_VGA
|
#ifdef CONFIG_VFIO_PCI_VGA
|
||||||
|
|||||||
@@ -15,7 +15,7 @@
|
|||||||
#include <linux/uaccess.h>
|
#include <linux/uaccess.h>
|
||||||
#include <linux/vfio.h>
|
#include <linux/vfio.h>
|
||||||
|
|
||||||
#include <linux/vfio_pci_core.h>
|
#include "vfio_pci_priv.h"
|
||||||
|
|
||||||
#define OPREGION_SIGNATURE "IntelGraphicsMem"
|
#define OPREGION_SIGNATURE "IntelGraphicsMem"
|
||||||
#define OPREGION_SIZE (8 * 1024)
|
#define OPREGION_SIZE (8 * 1024)
|
||||||
|
|||||||
@@ -20,7 +20,21 @@
|
|||||||
#include <linux/wait.h>
|
#include <linux/wait.h>
|
||||||
#include <linux/slab.h>
|
#include <linux/slab.h>
|
||||||
|
|
||||||
#include <linux/vfio_pci_core.h>
|
#include "vfio_pci_priv.h"
|
||||||
|
|
||||||
|
#define is_intx(vdev) (vdev->irq_type == VFIO_PCI_INTX_IRQ_INDEX)
|
||||||
|
#define is_msix(vdev) (vdev->irq_type == VFIO_PCI_MSIX_IRQ_INDEX)
|
||||||
|
#define is_irq_none(vdev) (!(is_intx(vdev) || is_msi(vdev) || is_msix(vdev)))
|
||||||
|
#define irq_is(vdev, type) (vdev->irq_type == type)
|
||||||
|
|
||||||
|
struct vfio_pci_irq_ctx {
|
||||||
|
struct eventfd_ctx *trigger;
|
||||||
|
struct virqfd *unmask;
|
||||||
|
struct virqfd *mask;
|
||||||
|
char *name;
|
||||||
|
bool masked;
|
||||||
|
struct irq_bypass_producer producer;
|
||||||
|
};
|
||||||
|
|
||||||
/*
|
/*
|
||||||
* INTx
|
* INTx
|
||||||
|
|||||||
106
drivers/vfio/pci/vfio_pci_priv.h
Normal file
106
drivers/vfio/pci/vfio_pci_priv.h
Normal file
@@ -0,0 +1,106 @@
|
|||||||
|
/* SPDX-License-Identifier: GPL-2.0-only */
|
||||||
|
#ifndef VFIO_PCI_PRIV_H
|
||||||
|
#define VFIO_PCI_PRIV_H
|
||||||
|
|
||||||
|
#include <linux/vfio_pci_core.h>
|
||||||
|
|
||||||
|
/* Special capability IDs predefined access */
|
||||||
|
#define PCI_CAP_ID_INVALID 0xFF /* default raw access */
|
||||||
|
#define PCI_CAP_ID_INVALID_VIRT 0xFE /* default virt access */
|
||||||
|
|
||||||
|
/* Cap maximum number of ioeventfds per device (arbitrary) */
|
||||||
|
#define VFIO_PCI_IOEVENTFD_MAX 1000
|
||||||
|
|
||||||
|
struct vfio_pci_ioeventfd {
|
||||||
|
struct list_head next;
|
||||||
|
struct vfio_pci_core_device *vdev;
|
||||||
|
struct virqfd *virqfd;
|
||||||
|
void __iomem *addr;
|
||||||
|
uint64_t data;
|
||||||
|
loff_t pos;
|
||||||
|
int bar;
|
||||||
|
int count;
|
||||||
|
bool test_mem;
|
||||||
|
};
|
||||||
|
|
||||||
|
#define is_msi(vdev) (vdev->irq_type == VFIO_PCI_MSI_IRQ_INDEX)
|
||||||
|
|
||||||
|
void vfio_pci_intx_mask(struct vfio_pci_core_device *vdev);
|
||||||
|
void vfio_pci_intx_unmask(struct vfio_pci_core_device *vdev);
|
||||||
|
|
||||||
|
int vfio_pci_set_irqs_ioctl(struct vfio_pci_core_device *vdev, uint32_t flags,
|
||||||
|
unsigned index, unsigned start, unsigned count,
|
||||||
|
void *data);
|
||||||
|
|
||||||
|
ssize_t vfio_pci_config_rw(struct vfio_pci_core_device *vdev, char __user *buf,
|
||||||
|
size_t count, loff_t *ppos, bool iswrite);
|
||||||
|
|
||||||
|
ssize_t vfio_pci_bar_rw(struct vfio_pci_core_device *vdev, char __user *buf,
|
||||||
|
size_t count, loff_t *ppos, bool iswrite);
|
||||||
|
|
||||||
|
#ifdef CONFIG_VFIO_PCI_VGA
|
||||||
|
ssize_t vfio_pci_vga_rw(struct vfio_pci_core_device *vdev, char __user *buf,
|
||||||
|
size_t count, loff_t *ppos, bool iswrite);
|
||||||
|
#else
|
||||||
|
static inline ssize_t vfio_pci_vga_rw(struct vfio_pci_core_device *vdev,
|
||||||
|
char __user *buf, size_t count,
|
||||||
|
loff_t *ppos, bool iswrite)
|
||||||
|
{
|
||||||
|
return -EINVAL;
|
||||||
|
}
|
||||||
|
#endif
|
||||||
|
|
||||||
|
long vfio_pci_ioeventfd(struct vfio_pci_core_device *vdev, loff_t offset,
|
||||||
|
uint64_t data, int count, int fd);
|
||||||
|
|
||||||
|
int vfio_pci_init_perm_bits(void);
|
||||||
|
void vfio_pci_uninit_perm_bits(void);
|
||||||
|
|
||||||
|
int vfio_config_init(struct vfio_pci_core_device *vdev);
|
||||||
|
void vfio_config_free(struct vfio_pci_core_device *vdev);
|
||||||
|
|
||||||
|
int vfio_pci_set_power_state(struct vfio_pci_core_device *vdev,
|
||||||
|
pci_power_t state);
|
||||||
|
|
||||||
|
bool __vfio_pci_memory_enabled(struct vfio_pci_core_device *vdev);
|
||||||
|
void vfio_pci_zap_and_down_write_memory_lock(struct vfio_pci_core_device *vdev);
|
||||||
|
u16 vfio_pci_memory_lock_and_enable(struct vfio_pci_core_device *vdev);
|
||||||
|
void vfio_pci_memory_unlock_and_restore(struct vfio_pci_core_device *vdev,
|
||||||
|
u16 cmd);
|
||||||
|
|
||||||
|
#ifdef CONFIG_VFIO_PCI_IGD
|
||||||
|
int vfio_pci_igd_init(struct vfio_pci_core_device *vdev);
|
||||||
|
#else
|
||||||
|
static inline int vfio_pci_igd_init(struct vfio_pci_core_device *vdev)
|
||||||
|
{
|
||||||
|
return -ENODEV;
|
||||||
|
}
|
||||||
|
#endif
|
||||||
|
|
||||||
|
#ifdef CONFIG_VFIO_PCI_ZDEV_KVM
|
||||||
|
int vfio_pci_info_zdev_add_caps(struct vfio_pci_core_device *vdev,
|
||||||
|
struct vfio_info_cap *caps);
|
||||||
|
int vfio_pci_zdev_open_device(struct vfio_pci_core_device *vdev);
|
||||||
|
void vfio_pci_zdev_close_device(struct vfio_pci_core_device *vdev);
|
||||||
|
#else
|
||||||
|
static inline int vfio_pci_info_zdev_add_caps(struct vfio_pci_core_device *vdev,
|
||||||
|
struct vfio_info_cap *caps)
|
||||||
|
{
|
||||||
|
return -ENODEV;
|
||||||
|
}
|
||||||
|
|
||||||
|
static inline int vfio_pci_zdev_open_device(struct vfio_pci_core_device *vdev)
|
||||||
|
{
|
||||||
|
return 0;
|
||||||
|
}
|
||||||
|
|
||||||
|
static inline void vfio_pci_zdev_close_device(struct vfio_pci_core_device *vdev)
|
||||||
|
{}
|
||||||
|
#endif
|
||||||
|
|
||||||
|
static inline bool vfio_pci_is_vga(struct pci_dev *pdev)
|
||||||
|
{
|
||||||
|
return (pdev->class >> 8) == PCI_CLASS_DISPLAY_VGA;
|
||||||
|
}
|
||||||
|
|
||||||
|
#endif
|
||||||
@@ -17,7 +17,7 @@
|
|||||||
#include <linux/vfio.h>
|
#include <linux/vfio.h>
|
||||||
#include <linux/vgaarb.h>
|
#include <linux/vgaarb.h>
|
||||||
|
|
||||||
#include <linux/vfio_pci_core.h>
|
#include "vfio_pci_priv.h"
|
||||||
|
|
||||||
#ifdef __LITTLE_ENDIAN
|
#ifdef __LITTLE_ENDIAN
|
||||||
#define vfio_ioread64 ioread64
|
#define vfio_ioread64 ioread64
|
||||||
|
|||||||
@@ -15,7 +15,7 @@
|
|||||||
#include <asm/pci_clp.h>
|
#include <asm/pci_clp.h>
|
||||||
#include <asm/pci_io.h>
|
#include <asm/pci_io.h>
|
||||||
|
|
||||||
#include <linux/vfio_pci_core.h>
|
#include "vfio_pci_priv.h"
|
||||||
|
|
||||||
/*
|
/*
|
||||||
* Add the Base PCI Function information to the device info region.
|
* Add the Base PCI Function information to the device info region.
|
||||||
|
|||||||
@@ -20,39 +20,10 @@
|
|||||||
#define VFIO_PCI_CORE_H
|
#define VFIO_PCI_CORE_H
|
||||||
|
|
||||||
#define VFIO_PCI_OFFSET_SHIFT 40
|
#define VFIO_PCI_OFFSET_SHIFT 40
|
||||||
|
|
||||||
#define VFIO_PCI_OFFSET_TO_INDEX(off) (off >> VFIO_PCI_OFFSET_SHIFT)
|
#define VFIO_PCI_OFFSET_TO_INDEX(off) (off >> VFIO_PCI_OFFSET_SHIFT)
|
||||||
#define VFIO_PCI_INDEX_TO_OFFSET(index) ((u64)(index) << VFIO_PCI_OFFSET_SHIFT)
|
#define VFIO_PCI_INDEX_TO_OFFSET(index) ((u64)(index) << VFIO_PCI_OFFSET_SHIFT)
|
||||||
#define VFIO_PCI_OFFSET_MASK (((u64)(1) << VFIO_PCI_OFFSET_SHIFT) - 1)
|
#define VFIO_PCI_OFFSET_MASK (((u64)(1) << VFIO_PCI_OFFSET_SHIFT) - 1)
|
||||||
|
|
||||||
/* Special capability IDs predefined access */
|
|
||||||
#define PCI_CAP_ID_INVALID 0xFF /* default raw access */
|
|
||||||
#define PCI_CAP_ID_INVALID_VIRT 0xFE /* default virt access */
|
|
||||||
|
|
||||||
/* Cap maximum number of ioeventfds per device (arbitrary) */
|
|
||||||
#define VFIO_PCI_IOEVENTFD_MAX 1000
|
|
||||||
|
|
||||||
struct vfio_pci_ioeventfd {
|
|
||||||
struct list_head next;
|
|
||||||
struct vfio_pci_core_device *vdev;
|
|
||||||
struct virqfd *virqfd;
|
|
||||||
void __iomem *addr;
|
|
||||||
uint64_t data;
|
|
||||||
loff_t pos;
|
|
||||||
int bar;
|
|
||||||
int count;
|
|
||||||
bool test_mem;
|
|
||||||
};
|
|
||||||
|
|
||||||
struct vfio_pci_irq_ctx {
|
|
||||||
struct eventfd_ctx *trigger;
|
|
||||||
struct virqfd *unmask;
|
|
||||||
struct virqfd *mask;
|
|
||||||
char *name;
|
|
||||||
bool masked;
|
|
||||||
struct irq_bypass_producer producer;
|
|
||||||
};
|
|
||||||
|
|
||||||
struct vfio_pci_core_device;
|
struct vfio_pci_core_device;
|
||||||
struct vfio_pci_region;
|
struct vfio_pci_region;
|
||||||
|
|
||||||
@@ -78,23 +49,6 @@ struct vfio_pci_region {
|
|||||||
u32 flags;
|
u32 flags;
|
||||||
};
|
};
|
||||||
|
|
||||||
struct vfio_pci_dummy_resource {
|
|
||||||
struct resource resource;
|
|
||||||
int index;
|
|
||||||
struct list_head res_next;
|
|
||||||
};
|
|
||||||
|
|
||||||
struct vfio_pci_vf_token {
|
|
||||||
struct mutex lock;
|
|
||||||
uuid_t uuid;
|
|
||||||
int users;
|
|
||||||
};
|
|
||||||
|
|
||||||
struct vfio_pci_mmap_vma {
|
|
||||||
struct vm_area_struct *vma;
|
|
||||||
struct list_head vma_next;
|
|
||||||
};
|
|
||||||
|
|
||||||
struct vfio_pci_core_device {
|
struct vfio_pci_core_device {
|
||||||
struct vfio_device vdev;
|
struct vfio_device vdev;
|
||||||
struct pci_dev *pdev;
|
struct pci_dev *pdev;
|
||||||
@@ -141,92 +95,11 @@ struct vfio_pci_core_device {
|
|||||||
struct rw_semaphore memory_lock;
|
struct rw_semaphore memory_lock;
|
||||||
};
|
};
|
||||||
|
|
||||||
#define is_intx(vdev) (vdev->irq_type == VFIO_PCI_INTX_IRQ_INDEX)
|
/* Will be exported for vfio pci drivers usage */
|
||||||
#define is_msi(vdev) (vdev->irq_type == VFIO_PCI_MSI_IRQ_INDEX)
|
|
||||||
#define is_msix(vdev) (vdev->irq_type == VFIO_PCI_MSIX_IRQ_INDEX)
|
|
||||||
#define is_irq_none(vdev) (!(is_intx(vdev) || is_msi(vdev) || is_msix(vdev)))
|
|
||||||
#define irq_is(vdev, type) (vdev->irq_type == type)
|
|
||||||
|
|
||||||
void vfio_pci_intx_mask(struct vfio_pci_core_device *vdev);
|
|
||||||
void vfio_pci_intx_unmask(struct vfio_pci_core_device *vdev);
|
|
||||||
|
|
||||||
int vfio_pci_set_irqs_ioctl(struct vfio_pci_core_device *vdev,
|
|
||||||
uint32_t flags, unsigned index,
|
|
||||||
unsigned start, unsigned count, void *data);
|
|
||||||
|
|
||||||
ssize_t vfio_pci_config_rw(struct vfio_pci_core_device *vdev,
|
|
||||||
char __user *buf, size_t count,
|
|
||||||
loff_t *ppos, bool iswrite);
|
|
||||||
|
|
||||||
ssize_t vfio_pci_bar_rw(struct vfio_pci_core_device *vdev, char __user *buf,
|
|
||||||
size_t count, loff_t *ppos, bool iswrite);
|
|
||||||
|
|
||||||
#ifdef CONFIG_VFIO_PCI_VGA
|
|
||||||
ssize_t vfio_pci_vga_rw(struct vfio_pci_core_device *vdev, char __user *buf,
|
|
||||||
size_t count, loff_t *ppos, bool iswrite);
|
|
||||||
#else
|
|
||||||
static inline ssize_t vfio_pci_vga_rw(struct vfio_pci_core_device *vdev,
|
|
||||||
char __user *buf, size_t count,
|
|
||||||
loff_t *ppos, bool iswrite)
|
|
||||||
{
|
|
||||||
return -EINVAL;
|
|
||||||
}
|
|
||||||
#endif
|
|
||||||
|
|
||||||
long vfio_pci_ioeventfd(struct vfio_pci_core_device *vdev, loff_t offset,
|
|
||||||
uint64_t data, int count, int fd);
|
|
||||||
|
|
||||||
int vfio_pci_init_perm_bits(void);
|
|
||||||
void vfio_pci_uninit_perm_bits(void);
|
|
||||||
|
|
||||||
int vfio_config_init(struct vfio_pci_core_device *vdev);
|
|
||||||
void vfio_config_free(struct vfio_pci_core_device *vdev);
|
|
||||||
|
|
||||||
int vfio_pci_register_dev_region(struct vfio_pci_core_device *vdev,
|
int vfio_pci_register_dev_region(struct vfio_pci_core_device *vdev,
|
||||||
unsigned int type, unsigned int subtype,
|
unsigned int type, unsigned int subtype,
|
||||||
const struct vfio_pci_regops *ops,
|
const struct vfio_pci_regops *ops,
|
||||||
size_t size, u32 flags, void *data);
|
size_t size, u32 flags, void *data);
|
||||||
|
|
||||||
int vfio_pci_set_power_state(struct vfio_pci_core_device *vdev,
|
|
||||||
pci_power_t state);
|
|
||||||
|
|
||||||
bool __vfio_pci_memory_enabled(struct vfio_pci_core_device *vdev);
|
|
||||||
void vfio_pci_zap_and_down_write_memory_lock(struct vfio_pci_core_device *vdev);
|
|
||||||
u16 vfio_pci_memory_lock_and_enable(struct vfio_pci_core_device *vdev);
|
|
||||||
void vfio_pci_memory_unlock_and_restore(struct vfio_pci_core_device *vdev,
|
|
||||||
u16 cmd);
|
|
||||||
|
|
||||||
#ifdef CONFIG_VFIO_PCI_IGD
|
|
||||||
int vfio_pci_igd_init(struct vfio_pci_core_device *vdev);
|
|
||||||
#else
|
|
||||||
static inline int vfio_pci_igd_init(struct vfio_pci_core_device *vdev)
|
|
||||||
{
|
|
||||||
return -ENODEV;
|
|
||||||
}
|
|
||||||
#endif
|
|
||||||
|
|
||||||
#ifdef CONFIG_VFIO_PCI_ZDEV_KVM
|
|
||||||
int vfio_pci_info_zdev_add_caps(struct vfio_pci_core_device *vdev,
|
|
||||||
struct vfio_info_cap *caps);
|
|
||||||
int vfio_pci_zdev_open_device(struct vfio_pci_core_device *vdev);
|
|
||||||
void vfio_pci_zdev_close_device(struct vfio_pci_core_device *vdev);
|
|
||||||
#else
|
|
||||||
static inline int vfio_pci_info_zdev_add_caps(struct vfio_pci_core_device *vdev,
|
|
||||||
struct vfio_info_cap *caps)
|
|
||||||
{
|
|
||||||
return -ENODEV;
|
|
||||||
}
|
|
||||||
|
|
||||||
static inline int vfio_pci_zdev_open_device(struct vfio_pci_core_device *vdev)
|
|
||||||
{
|
|
||||||
return 0;
|
|
||||||
}
|
|
||||||
|
|
||||||
static inline void vfio_pci_zdev_close_device(struct vfio_pci_core_device *vdev)
|
|
||||||
{}
|
|
||||||
#endif
|
|
||||||
|
|
||||||
/* Will be exported for vfio pci drivers usage */
|
|
||||||
void vfio_pci_core_set_params(bool nointxmask, bool is_disable_vga,
|
void vfio_pci_core_set_params(bool nointxmask, bool is_disable_vga,
|
||||||
bool is_disable_idle_d3);
|
bool is_disable_idle_d3);
|
||||||
void vfio_pci_core_close_device(struct vfio_device *core_vdev);
|
void vfio_pci_core_close_device(struct vfio_device *core_vdev);
|
||||||
@@ -256,9 +129,4 @@ void vfio_pci_core_finish_enable(struct vfio_pci_core_device *vdev);
|
|||||||
pci_ers_result_t vfio_pci_core_aer_err_detected(struct pci_dev *pdev,
|
pci_ers_result_t vfio_pci_core_aer_err_detected(struct pci_dev *pdev,
|
||||||
pci_channel_state_t state);
|
pci_channel_state_t state);
|
||||||
|
|
||||||
static inline bool vfio_pci_is_vga(struct pci_dev *pdev)
|
|
||||||
{
|
|
||||||
return (pdev->class >> 8) == PCI_CLASS_DISPLAY_VGA;
|
|
||||||
}
|
|
||||||
|
|
||||||
#endif /* VFIO_PCI_CORE_H */
|
#endif /* VFIO_PCI_CORE_H */
|
||||||
|
|||||||
Reference in New Issue
Block a user