A4 Artikkeli konferenssijulkaisussa
One-Pixel Attack Deceives Computer-Assisted Diagnosis of Cancer (2021)
Korpihalkola, J., Sipola, T., Puuska, S., & Kokkonen, T. (2021). One-Pixel Attack Deceives Computer-Assisted Diagnosis of Cancer. In SPML 2021 : 4th International Conference on Signal Processing and Machine Learning (pp. 100-106). ACM. https://doi.org/10.1145/3483207.3483224
JYU-tekijät tai -toimittajat
Julkaisun tiedot
Julkaisun kaikki tekijät tai toimittajat: Korpihalkola, Joni; Sipola, Tuomo; Puuska, Samir; Kokkonen, Tero
Emojulkaisu: SPML 2021 : 4th International Conference on Signal Processing and Machine Learning
Konferenssi:
- International Conference on Signal Processing and Machine Learning
Konferenssin paikka ja aika: Beijing, China, 18.-20.8.2021
eISBN: 978-1-4503-9017-0
Julkaisuvuosi: 2021
Ilmestymispäivä: 18.08.2021
Artikkelin sivunumerot: 100-106
Kirjan kokonaissivumäärä: 185
Kustantaja: ACM
Kustannuspaikka: New York
Julkaisumaa: Yhdysvallat (USA)
Julkaisun kieli: englanti
DOI: https://doi.org/10.1145/3483207.3483224
Julkaisun avoin saatavuus: Ei avoin
Julkaisukanavan avoin saatavuus:
Julkaisu on rinnakkaistallennettu (JYX): https://jyx.jyu.fi/handle/123456789/78557
Julkaisu on rinnakkaistallennettu: https://arxiv.org/abs/2012.00517
Tiivistelmä
Computer vision and machine learning can be used to automate various tasks in cancer diagnostic and detection. If an attacker can manipulate the automated processing, the results can be devastating and in the worst case lead to wrong diagnosis and treatment. In this research, the goal is to demonstrate the use of one-pixel attacks in a real-life scenario with a real pathology dataset, TUPAC16, which consists of digitized whole-slide images. We attack against the IBM CODAIT's MAX breast cancer detector using adversarial images. These adversarial examples are found using differential evolution to perform the one-pixel modification to the images in the dataset. The results indicate that a minor one-pixel modification of a whole slide image under analysis can affect the diagnosis by reversing the automatic diagnosis result. The attack poses a threat from the cyber security perspective: the one-pixel method can be used as an attack vector by a motivated attacker.
YSO-asiasanat: konenäkö; koneoppiminen; diagnostiikka; syöpätaudit; kyberturvallisuus; verkkohyökkäykset
Liittyvät organisaatiot
OKM-raportointi: Kyllä
Raportointivuosi: 2021
JUFO-taso: 1
