石家庄的网站的公司,网站建设比较好的,wordpress三方登录,p2p倒闭 网站开发Pytorch | 利用NI-FGSM针对CIFAR10上的ResNet分类器进行对抗攻击 CIFAR数据集NI-FGSM介绍背景算法原理 NI-FGSM代码实现NI-FGSM算法实现攻击效果 代码汇总nifgsm.pytrain.pyadvtest.py 之前已经针对CIFAR10训练了多种分类器#xff1a; Pytorch | 从零构建AlexNet对CIFAR10进行… Pytorch | 利用NI-FGSM针对CIFAR10上的ResNet分类器进行对抗攻击 CIFAR数据集NI-FGSM介绍背景算法原理 NI-FGSM代码实现NI-FGSM算法实现攻击效果 代码汇总nifgsm.pytrain.pyadvtest.py 之前已经针对CIFAR10训练了多种分类器 Pytorch | 从零构建AlexNet对CIFAR10进行分类 Pytorch | 从零构建Vgg对CIFAR10进行分类 Pytorch | 从零构建GoogleNet对CIFAR10进行分类 Pytorch | 从零构建ResNet对CIFAR10进行分类 Pytorch | 从零构建MobileNet对CIFAR10进行分类 Pytorch | 从零构建EfficientNet对CIFAR10进行分类 Pytorch | 从零构建ParNet对CIFAR10进行分类
本篇文章我们使用Pytorch实现NI-FGSM对CIFAR10上的ResNet分类器进行攻击.
CIFAR数据集
CIFAR-10数据集是由加拿大高级研究所CIFAR收集整理的用于图像识别研究的常用数据集基本信息如下
数据规模该数据集包含60,000张彩色图像分为10个不同的类别每个类别有6,000张图像。通常将其中50,000张作为训练集用于模型的训练10,000张作为测试集用于评估模型的性能。图像尺寸所有图像的尺寸均为32×32像素这相对较小的尺寸使得模型在处理该数据集时能够相对快速地进行训练和推理但也增加了图像分类的难度。类别内容涵盖了飞机plane、汽车car、鸟bird、猫cat、鹿deer、狗dog、青蛙frog、马horse、船ship、卡车truck这10个不同的类别这些类别都是现实世界中常见的物体具有一定的代表性。
下面是一些示例样本 NI-FGSM介绍
NI-FGSMNesterov Iterative Fast Gradient Sign Method即涅斯捷罗夫迭代快速梯度符号法是一种在对抗攻击领域中对FGSM进行改进的迭代攻击算法以下是其详细介绍
背景
传统的FGSM及其一些迭代改进版本如I-FGSM等在生成对抗样本时存在一些局限性例如可能会在迭代过程中陷入局部最优导致攻击效果不够理想或生成的对抗样本转移性较差。NI-FGSM借鉴了优化算法中的Nesterov加速梯度法的思想旨在更有效地利用梯度信息提高攻击的效率和效果。
算法原理
初始化与其他对抗攻击方法类似需要一个待攻击的目标模型 f f f、损失函数 J J J、原始图像 x x x及其对应的真实标签 y y y同时还需要设定攻击步长 ϵ \epsilon ϵ、迭代次数 T T T等参数。迭代更新在每次迭代 t t t中首先计算一个“前瞻”点 x t l o o k a h e a d x_{t}^{lookahead} xtlookahead它是基于当前迭代点 x t x_{t} xt和上一次迭代的梯度信息进行的一个预估更新点公式为 x t l o o k a h e a d x t α ⋅ sign ( ∇ x J ( x t , y ) ) x_{t}^{lookahead}x_{t}\alpha \cdot \text{sign}\left(\nabla_{x} J\left(x_{t}, y\right)\right) xtlookaheadxtα⋅sign(∇xJ(xt,y))其中 α \alpha α是一个类似于步长的参数。然后计算在这个“前瞻”点处的损失梯度 ∇ x J ( x t l o o k a h e a d , y ) \nabla_{x} J\left(x_{t}^{lookahead}, y\right) ∇xJ(xtlookahead,y)并根据该梯度来更新当前迭代点 x t x_{t} xt更新公式为 x t 1 x t ϵ ⋅ sign ( ∇ x J ( x t l o o k a h e a d , y ) ) x_{t 1}x_{t}\epsilon \cdot \text{sign}\left(\nabla_{x} J\left(x_{t}^{lookahead}, y\right)\right) xt1xtϵ⋅sign(∇xJ(xtlookahead,y))。投影操作与其他对抗攻击方法一样为了确保生成的对抗样本在合理的范围内如像素值在 [ 0 , 1 ] [0, 1] [0,1]或 [ − 1 , 1 ] [-1, 1] [−1,1]之间需要对每次迭代更新后的样本进行投影操作。
NI-FGSM代码实现
NI-FGSM算法实现
import torch
import torch.nn as nndef NI_FGSM(model, criterion, original_images, labels, epsilon, num_iterations10):NI-FGSM (Nesterov Iterative Fast Gradient Sign Method) 参数:- model: 要攻击的模型- criterion: 损失函数- original_images: 原始输入图像数据- labels: 对应的真实标签- epsilon: 最大扰动幅度- num_iterations: 迭代次数# alpha: 每次迭代的步长alpha epsilon / num_iterations# 复制原始图像作为初始的对抗样本并设置其需要计算梯度perturbed_images original_images.clone().detach().requires_grad_(True)for _ in range(num_iterations):# 计算 前瞻 点基于当前对抗样本和当前梯度方向预估的下一步位置lookahead_images perturbed_images alpha * torch.sign(perturbed_images.grad.data) if perturbed_images.grad is not None else perturbed_images# 前向传播得到模型输出outputs model(lookahead_images)# 计算损失loss criterion(outputs, labels)# 清空模型之前的梯度信息model.zero_grad()# 反向传播计算梯度loss.backward()# 获取当前梯度数据data_grad lookahead_images.grad.data if lookahead_images.grad is not None else torch.zeros_like(original_images)# 计算符号梯度sign_data_grad torch.sign(data_grad)# 更新对抗样本perturbed_images perturbed_images epsilon * sign_data_grad# 投影操作确保扰动后的图像仍在合理范围内这里假设图像范围是[0, 1]perturbed_images torch.clamp(perturbed_images, original_images - epsilon, original_images epsilon)perturbed_images perturbed_images.detach().requires_grad_(True)return perturbed_images攻击效果 代码汇总
nifgsm.py
import torch
import torch.nn as nndef NI_FGSM(model, criterion, original_images, labels, epsilon, num_iterations10):NI-FGSM (Nesterov Iterative Fast Gradient Sign Method) 参数:- model: 要攻击的模型- criterion: 损失函数- original_images: 原始输入图像数据- labels: 对应的真实标签- epsilon: 最大扰动幅度- num_iterations: 迭代次数# alpha: 每次迭代的步长alpha epsilon / num_iterations# 复制原始图像作为初始的对抗样本并设置其需要计算梯度perturbed_images original_images.clone().detach().requires_grad_(True)for _ in range(num_iterations):# 计算 前瞻 点基于当前对抗样本和当前梯度方向预估的下一步位置lookahead_images perturbed_images alpha * torch.sign(perturbed_images.grad.data) if perturbed_images.grad is not None else perturbed_images# 前向传播得到模型输出outputs model(lookahead_images)# 计算损失loss criterion(outputs, labels)# 清空模型之前的梯度信息model.zero_grad()# 反向传播计算梯度loss.backward()# 获取当前梯度数据data_grad lookahead_images.grad.data if lookahead_images.grad is not None else torch.zeros_like(original_images)# 计算符号梯度sign_data_grad torch.sign(data_grad)# 更新对抗样本perturbed_images perturbed_images epsilon * sign_data_grad# 投影操作确保扰动后的图像仍在合理范围内这里假设图像范围是[0, 1]perturbed_images torch.clamp(perturbed_images, original_images - epsilon, original_images epsilon)perturbed_images perturbed_images.detach().requires_grad_(True)return perturbed_imagestrain.py
import torch
import torch.nn as nn
import torchvision
import torchvision.transforms as transforms
from models import ResNet18# 数据预处理
transform_train transforms.Compose([transforms.RandomCrop(32, padding4),transforms.RandomHorizontalFlip(),transforms.ToTensor(),transforms.Normalize((0.4914, 0.4822, 0.4465), (0.2023, 0.1994, 0.2010))
])transform_test transforms.Compose([transforms.ToTensor(),transforms.Normalize((0.4914, 0.4822, 0.4465), (0.2023, 0.1994, 0.2010))
])# 加载Cifar10训练集和测试集
trainset torchvision.datasets.CIFAR10(root./data, trainTrue, downloadFalse, transformtransform_train)
trainloader torch.utils.data.DataLoader(trainset, batch_size128, shuffleTrue, num_workers2)testset torchvision.datasets.CIFAR10(root./data, trainFalse, downloadFalse, transformtransform_test)
testloader torch.utils.data.DataLoader(testset, batch_size100, shuffleFalse, num_workers2)# 定义设备GPU或CPU
device torch.device(cuda:0 if torch.cuda.is_available() else cpu)# 初始化模型
model ResNet18(num_classes10)
model.to(device)# 定义损失函数和优化器
criterion nn.CrossEntropyLoss()
optimizer torch.optim.Adam(model.parameters(), lr0.01)if __name__ __main__:# 训练模型for epoch in range(10): # 可以根据实际情况调整训练轮数running_loss 0.0for i, data in enumerate(trainloader, 0):inputs, labels data[0].to(device), data[1].to(device)optimizer.zero_grad()outputs model(inputs)loss criterion(outputs, labels)loss.backward()optimizer.step()running_loss loss.item()if i % 100 99:print(fEpoch {epoch 1}, Batch {i 1}: Loss {running_loss / 100})running_loss 0.0torch.save(model.state_dict(), fweights/epoch_{epoch 1}.pth)print(Finished Training)advtest.py
import torch
import torch.nn as nn
import torchvision
import torchvision.transforms as transforms
from models import *
from attacks import *
import ssl
import os
from PIL import Image
import matplotlib.pyplot as pltssl._create_default_https_context ssl._create_unverified_context# 定义数据预处理操作
transform transforms.Compose([transforms.ToTensor(),transforms.Normalize((0.491, 0.482, 0.446), (0.247, 0.243, 0.261))])# 加载CIFAR10测试集
testset torchvision.datasets.CIFAR10(root./data, trainFalse,downloadFalse, transformtransform)
testloader torch.utils.data.DataLoader(testset, batch_size128,shuffleFalse, num_workers2)# 定义设备GPU优先若可用
device torch.device(cuda if torch.cuda.is_available() else cpu)model ResNet18(num_classes10).to(device)criterion nn.CrossEntropyLoss()# 加载模型权重
weights_path weights/epoch_10.pth
model.load_state_dict(torch.load(weights_path, map_locationdevice))if __name__ __main__:# 在测试集上进行FGSM攻击并评估准确率model.eval() # 设置为评估模式correct 0total 0epsilon 16 / 255 # 可以调整扰动强度for data in testloader:original_images, labels data[0].to(device), data[1].to(device)original_images.requires_grad Trueattack_name MI-FGSMif attack_name FGSM:perturbed_images FGSM(model, criterion, original_images, labels, epsilon)elif attack_name BIM:perturbed_images BIM(model, criterion, original_images, labels, epsilon)elif attack_name MI-FGSM:perturbed_images MI_FGSM(model, criterion, original_images, labels, epsilon)elif attack_name NI-FGSM:perturbed_images NI_FGSM(model, criterion, original_images, labels, epsilon)perturbed_outputs model(perturbed_images)_, predicted torch.max(perturbed_outputs.data, 1)total labels.size(0)correct (predicted labels).sum().item()accuracy 100 * correct / total# Attack Success RateASR 100 - accuracyprint(fLoad ResNet Model Weight from {weights_path})print(fepsilon: {epsilon})print(fASR of {attack_name} : {ASR}%)
