initial commit of executable and information

README.md

+
+
+ASYST ist ein Werkzeug zur Unterstützung beim Bewerten von Freitextantworten. <a href="README_DE.md">Mehr Information</a>
+
+ASYST is a tool to support grading of free text answers.  <a href="README_EN.md">More information</a>
+
+
+<a href="https://www.hft-stuttgart.com/research/projects/current/knight-project"><img src="images/csm_Knight_Logo_eac7003904.webp" alt="KNIGHT-Logo" width="200"/></a> <img src="images/csm_BMBF_gefoerdert_vom_deutsch_48a18b1887.webp" alt="BMBF-Logo" width="200"/> 
+

README_DE.md

+<h2>Inhalt:</h2>
+<ul>  
+   <li><a href="#1"> Was ist ASYST? </a> </li>
+   <li><a href="#2"> Welche Sprachen unterstützt ASYST? </a></li> 
+   <li><a href="#3"> Wie verwendet man ASYST? </a></li> 
+   <ol>
+      <li><a href="#4"> Wie müssen auszuwertende Daten formatiert sein?</a> </li>
+      <li><a href="#5"> Wie führe ich das Programm unter Windows 11 aus? </a> </li>
+      
+   </ol>
+   <li><a href="#6"> Wie arbeit man mit der Ausgabe von ASYST weiter? </a></li> 
+   <li><a href="#7"> Wie kann ich ASYST ausführen, wenn ich kein Windows 11 nutze? </a> 
+         <ul><li><a href="#8"> Ausführen von ASYST in der Entwicklungsumgebung Pycharm</a> </li></ul></li>
+</ul>
+
+
+<h2 id=1>Was ist ASYST?</h2>
+
+ASYST ist ein Programm, das Lehrenden die Auswertung von Freitextantworten in Tests erleichtern soll: Mit Hilfe künstlicher Intelligenz 
+macht ASYST Bewertungsvorschläge, die von den Lehrenden gezielt überprüft und ggf. verändert werden können.
+
+ASYST ist für die Bewertung von Freitext-Kurzantworten gedacht  - diese Kurzantworten sollten etwa ein bis drei Sätze umfassen. Für längere Antworten ist die Anwendung nicht vorgesehen.
+
+ASYST hilft der Lehrperson, indem es eine Bewertung vorschlägt. Diese Bewertung kann im Einzelfall durchaus auch falsch sein; die Lehrperson kann sie prüfen und korrigieren. 
+Dabei spart man gegenüber der völlig manuellen Bewertung an zwei Stellen Zeit: Zum Einen ist das Überprüfen von Bewertungen im Allgemeinen schneller als das Bewerten von Grund auf; 
+und zum anderen empfehlen wir, bei der Überprüfung gezielt die ASYST-Bewertungen auszuwählen, die eher fehleranfällig sind (s. Abschnitt <a href="#6"> Wie arbeit man mit der Ausgabe von ASYST weiter? </a>).
+
+Das Programm ist in Python geschrieben; der Quellcode ist öffentlich zugänglich. Um ASYST einfacher nutzbar zu machen, wurden die Python-Skripte 
+in eine ausführbare Programmdatei umgewandelt, die in Windows 11 nutzbar ist.
+
+<h2 id=2>Welche Sprachen unterstützt ASYST?</h2>
+
+ASYST wurde für Deutsch und  <a href="https://nlpado.de/~ulrike/papers/Pado22.pdf">Englisch</a> getestet. 
+
+Das Sprachmodell, das Deutsch abdeckt, kann im Prinzip noch weitere Sprachen verarbeiten. Sie können also grundsätzlich "Deutsch" als Spracheinstellung auswählen und Daten in einer der anderen unterstützten Sprachen hochladen. Bitte prüfen Sie die Ergebnisse aber sorgfältig, es liegen keine Erfahrungen vor! (Die Sprachen sind <a href="https://www.sbert.net/docs/pretrained_models.html#multi-lingual-models">lt. den Modellerstellern</a>: ar, bg, ca, cs, da, de, el, en, es, et, fa, fi, fr, fr-ca, gl, gu, he, hi, hr, hu, hy, id, it, ja, ka, ko, ku, lt, lv, mk, mn, mr, ms, my, nb, nl, pl, pt, pt-br, ro, ru, sk, sl, sq, sr, sv, th, tr, uk, ur, vi, zh-cn, zh-tw.)
+
+
+<h2 id=3>Wie verwendet man ASYST?</h2>
+Wir haben bei der Entwicklung von ASYST versucht, die Verwendung möglichst einfach zu machen sein.
+
+<h3 id=4>Wie müssen auszuwertende Daten formatiert sein?</h3>
+Das Programm arbeitet auf Basis Ihrer Daten im Excel-Format .xlsx (das auch von Libre Office Calc und anderen Programmen erzeugt werden kann). Eine Beispieltabelle:
+
+![table_input.png](images%2Ftable_input.png)
+
+Dabei müssen die folgende Informationen in der **richtigen Reihenfolge** und mitem **richtigen Titel** der Spalten enthalten sein:
+1) **Question**: Die gestellte Frage
+2) **referenceAnswer**: Eine korrekte Antwort / Musterlösung / Referenzantwort
+3) **studentAnswer**: Die vom Prüfling gegebene Antwort, die bewertet werden soll.
+5) (optional) **observed grade**: Hier kann die tatsächliche Bewertung durch die Lehrkraft eingetragen werden, um Kennzahlen über die Richtigkeit der Vorhersagen zu bekommen.
+
+Die Beispieltabelle finden Sie unter <a href="https://transfer.hft-stuttgart.de/gitlab/ulrike.pado/ASYST/-/blob/main/DE_Demo_Daten.xlsx">DE_Demo_Daten.xlsx</a>. Sie enthält einige Fragen und Antworten aus dem CSSAG-Korpus (Computer Science Short Answers in German) der HFT Stuttgart. Das Korpus is CC-BY-NC lizenziert.
+
+<h3 id=5>Wie führe ich das Programm unter Windows 11 aus? </h3>
+
+Zunächst muss die Datei _ASYST.exe_ <a href="https://transfer.hft-stuttgart.de/gitlab/ulrike.pado/ASYST/-/blob/main/ASYST.exe"> heruntergeladen werden</a>.
+Sobald dies geschehen ist, kann das Programm mittels Doppelklick gestartet werden.
+
+Der Start des Programmes wird eine Weile dauern (ca 1 Minute). In dieser Zeit wird das System initialisiert. 
+
+**Hinweis**: Es kann passieren, dass Windows Defender davor warnt, die Anwendung auszuführen, da das Programm kein Sicherheitszertifikat besitzt.
+Durch Auswählen von _weitere Informationen_ und anschließend _Trotzdem ausführen_ verschwindet die Fehlermeldung und ASYST kann ausgeführt werden. Der Quelltext von ASYST ist offen zugänglich, so dass Sie sich vergewissern können, dass ASYST keine Schadsoftware ist.
+
+
+<img src="images/win_def_de_1.JPG" width="450">
+<img src="images/win_def_de_2.JPG" width="450">
+
+Nachdem das Programm gestartet wurde, erscheint eine Oberfläche, auf der die Sprache der auszuwertenden Antworten ausgewählt werden kann.
+Anschließend kann über einen Klick auf das Feld "Input File" die zu verarbeitende Tabelle ausgewählt werden.
+Hierbei sollten die Daten wie oben beschrieben angeordnet sein. 
+Nach einem Klick auf das "Start"-Feld beginnt ASYST mit der Verarbeitung der Daten. Dies kann wiederum eine Weile dauern (1-2 Minuten, relativ unabhängig von der Menge der zu verarbeitenden Daten). 
+
+Sobald das Programm alle Einträge verarbeitet und Vorhersagen getroffen hat, öffnet sich eine Tabellenansicht mit der Überschrift "Results" (Ergebnisse). 
+
+Die Ergebnistabelle enthält alle Spalten der eingelesenen Tabelle, sowie zusätzlich in der Spalte "predicted grade" die von ASYST vorgeschlagene Bewertung der Antworten. Die "incorrect"-Einträge der als falsch eingestuften Antworten sind rot hinterlegt. Sie können in dieser Tabelle allerdings noch keine Bewertungen verändern. Speichern Sie hierzu über einen Klick auf "Save as" die erzeugte Tabelle und öffnen Sie sie dann mit einem Tabellenkalkulationsprogramm. 
+
+![table_results.png](images%2Ftable_results.png)
+
+Sobald die Ergebnistabelle angezeigt wird, kann ASYST die nächste Tabelle einlesen und verarbeiten. 
+
+**ACHTUNG: Die Ergebnistabelle wird nicht automatisch gespeichert.** Werden die Ergebnisse nicht gespeichert, 
+wird die Erbgebnistabelle im nächsten Durchlauf überschrieben.
+Daher sollte, um die Ergebnisse zu sichern, auf den **"Save as"**- Button geklickt und die Ausgabetabelle am gewünschten Ort gespeichert werden.
+
+
+<h2 id=6>Wie arbeitet man mit der Ausgabe von ASYST weiter?</h2>
+
+Wir empfehlen die folgende **Vorgehensweise** beim Einsatz von ASYST: 
+
+(Weitere Informationen und eine konkretes Beispiel für das Vorgehen liefert der Artikel <a href="https://nlpado.de/~ulrike/papers/Pado22.pdf">_Assessing the Practical Benefit of Automated Short-Answer Graders_</a>.)
+
+1) **Definition der Anforderungen**: Wie genau muss die Bewertung in meinem aktuellen Anwendungsfall sein?
+   <ul>
+   <li>Bei der Bewertung von Freitextfragen in eher informellen Testsituationen (keine Abschlussklausur o.ä.) unterscheiden sich auch <b>menschliche Bewertungen</b> in ca. 15% der Fälle - 0% Abweichung sind also auch für Menschen kaum erreichbar! </li>
+   <li>Wir empfehlen daher in solchen Situationen, eine Bewertungsgenauigkeit von mindestens 85% auch nach dem Einsatz von ASYST plus der menschlichen Korrektur anzustreben. </li>
+   <li>Zu Beachten ist zudem die Verteilung der Bewertungsfehler (Übermäßige Strenge/Milde)</li>
+   <li>Letztlich sollte die Verwendung des Tools den Anwender:innen eine Zeitersparnis bringen: Setzen Sie das verfügbare Budget oder eine angestrebte Mindestersparnis fest. </li>
+   </ul>
+
+2) **Sammeln von** manuell bewerteten **Testdaten:**
+
+   Um einen Eindruck von der Genauigkeit und Zuverlässigkeit des automatischen Bewerters zu bekommen, werden annotierte Testdaten benötigt,
+   d.h. Eingabe-Daten, für die eine korrekte Klassifizierung bereits festgelegt ist. Es werden also Daten im einlesbaren Format benötigt, die bereits manuell bewertet wurden. Dies können z.B. Antworten aus früheren Tests sein.
+   Um den Datensatz möglichst robust gegenüber zufälligen Schwankungen zu machen, sollte er idealerweise einige hundert Antworten umfassen -- aber kleinere Datensätze können natürlich ebenfalls verwendet werden.
+
+4) **Analyse** der Leistung der automatischen Bewertung
+   
+   Anhand der manuell bewerteten Testdaten kann nun gemessen werden, wie zuverlässig und treffsicher der Klassifizierer für die spezifischen Fragen arbeitet. Damit bekommen Sie einen Eindruck davon, wie gut die Vorhersage für Ihren eigenen Datensatz funktioniert.
+
+   Hierzu werden die Fragen und Antworten aus dem Testdatensatz von ASYST verarbeitet und anschließend die erhaltene Klassifikation mit der manuellen Bewertung abgeglichen (z.B. in einer Tabellenkalkulation wie Excel oder Libre Office Calc).
+   
+   Dabei kann der Anteil der korrekt klassifizierten Antworten im gesamten Datensatz ermittelt werden - dieser sollte 85% oder höher betragen (das entspricht einer Fehlerquote von 15% oder weniger). 
+   
+   Sie können auch für die einzelnen Bewertungen (richtig/falsch) berechnen, wie groß die Präzision für die verschiedenen Bewertungen jeweils ist. Die Präzision misst, wie viele Vorhersagen einer bestimmten Bewertung tatsächlich richtig waren, d.h. wie vertrauenswürdig die Vorhersagen des Bewerters für ein bestimmtes Label sind. So bedeutet eine Präzision von 75% für die Bewertung "korrekt", dass drei Viertel aller Vorhersagen von "korrekt" gestimmt haben, aber in einem Viertel der Fälle die Antwort laut der manuellen Bewertung falsch war.
+
+   _(Die Funktion, diese Kenngrößen der Zuverlässigkeit automatisch in einem Testmodus zu generieren soll in Zukunft dem Programm noch hinzugefügt werden.)_
+
+5) **Entscheidung** wie der Ansatz genutzt werden soll.
+   
+   Anhand der erhobenen Kenngrößen zur Zuverlässigkeit für die oben genannten Kriterien kann nun eine Entscheidung getroffen werden. 
+   <ul>
+   <li> Wie groß ist der Anteil der korrekt vorhergesagten Bewertungen? Beträgt er >85%, können Sie die ASYST-Vorhersagen sogar unverändert übernehmen, falls Sie dies wünschen. </li>
+   <li> Wie ist die Präzision der einzelnen Bewertungsklassen (richtig/falsch)? Wenn eine der Klassen deutlich zuverlässiger vorhergesagt wird, können Sie entscheiden, diese Vorhersagen ungeprüft zu übernehmen und <b>nur</b> die Vorhersagen für die weniger verlässlich erkannte Klasse zu überprüfen. Dies führt in der Praxis zu einer deutlichen Zeitersparnis. </li>
+   <li>Wie ist der Bewertungsfehler verteilt? Werden übermäßig viele korrekte Antworten als falsch bewertet, oder umgekehrt? Ist dies für Ihre Situation akzeptabel? </li>
+   <li> Wie viel Bewertungsaufwand hätten Sie für den Beispieldatensatz eingespart, z.B. indem Sie die verlässlichere Bewertungsklasse ungeprüft akzeptieren?
+   </ul>
+
+
+
+<h3 id=7>Wie kann ich ASYST ausführen, wenn ich kein Windows 11 nutze?</h3>
+Die klickbare Anwendung "ASYST.exe" eignet sich nur für die Ausführung unter Windows 11. 
+
+In anderen Betriebssystemen kann ASYST aus einer Entwicklungsumgebung heraus ausgeführt werden.
+Der ASYST-Quellcode ist ursprünglich in Python geschrieben und kann daher robust in verschiedenen Umgebungen ausgeführt werden.
+Für Anwender, die mit dem Ausführen von Python-Programmen nicht vertraut sind, wird im folgenden eine Möglichkeit näher beschrieben.
+<h4 id=8>Ausführen von ASYST in der Entwicklungsumgebung Pycharm </h4>
+<ol>
+<li>Falls noch nicht geschehen, die Entwicklungsumgebung Pycharm aus dem Internet 
+    <a href="https://www.jetbrains.com/pycharm/download/?section=mac"> herunterladen </a> und installieren. 
+    Für mehr Informationen und Problemlösung siehe 
+    <a href="https://www.jetbrains.com/help/pycharm/installation-guide.html"> Pycharm-Installationsguide</a>.</li>
+<li>Python installieren 
+
+Die Entwicklung von ASYST erfolgte in Python 3.10 - daher wird diese Version für die Ausführung empfohlen.
+Die zum Betriebssystem passende Version kann unter https://www.python.org/downloads ausgewählt und installiert werden.
+</li>
+
+<li> Den Quellcode aus Gitlab in die Entwicklungsumgebung herunterladen:
+
+Get from VCS 
+
+
+<img src="images/get_from_vcs.png" width="450">
+
+
+im Feld _url_ folgenden Pfad eintragen: git@transfer.hft-stuttgart.de:ulrike.pado/ASYST.git
+
+
+<img src="images/svn_url.png" width="450">
+
+
+Anschließend auf _clone_ klicken und warten
+</li>
+
+<li>Entwicklungsumgebung konfigurieren
+**Python-Interpreter konfigurieren:**
+
+Navigiere zu   _Settings >> Project ASYST >> Python Interpreter >> Add Interpreter >> Add local Interpreter_ 
+
+![add_interpreter.png](images%2Fadd_interpreter.png)
+
+
+![create_venv.png](images%2Fcreate_venv.png)
+
+
+_Location_: [Projektpfad]/[Projektname]/Source, 
+
+
+_Base interpreter_:  Pfad zur installierten Pythonversion
+
+
+*Benötigte Pakte installieren:*
+Falls Pycharm nicht von sich aus vorschlägt, die in der requirements.txt aufgeführten Pakete zu installieren,
+führe manuell über das Terminal von PyCharm folgende Befehle aus:
+
+'''
+> cd Source
+> 
+> 
+> pip install -r requirements.txt
+
+'''
+
+</li>
+<li>ASYST ausführen
+
+![run_button.png](images%2Frun_button.png)
+
+
+Nachdem über das Projektverzeichnis links die Datei _main.py_ ausgewählt wurde, wird der ausgegraute _Startknopf_ oben rechts
+im Fenster grün. Ein einfacher Klick genügt, und ASYST wird ausgeführt. 
+
+</li>
+</ol>
+

README_EN.md

+<h2>Content:</h2>
+<ul>  
+   <li><a href="#1"> What is ASYST? </a> </li>
+   <li><a href="#2"> Which languages are supported by ASYST? </a></li> 
+   <li><a href="#3"> How do I use ASYST? </a></li> 
+   <ol>
+      <li><a href="#4"> What does the input look like?</a> </li>
+      <li><a href="#5">  How do I run ASYST on Windows 11? </a></li>
+      
+   </ol>
+   <li><a href="#6"> How do I continue with the output from ASYST? </a></li> 
+   <li><a href="#7"> How do I run ASYST if I don't use Windows 11? </a> 
+         <ul><li><a href="#8"> Running ASYST in the Pycharm development environment</a> </li></ul></li>
+</ol></ul>
+
+
+<h2 id=1>What is ASYST?</h2>
+
+ASYST is a program designed to support teachers as they grade free-text answers in tests: With the help of Artificial Intelligence,
+ASYST makes grade suggestions that can be reviewed and, if necessary, modified by the teachers.
+
+ASYST is intended for the evaluation of short answers that are one to three sentences in long. It is not intended to be used for longer responses.
+
+ASYST helps the teacher by suggesting a grade. This assessment may well be incorrect in individual cases; the teacher can check and correct it. 
+This saves time in two ways compared to completely manual grading: First, reviewing grades is generally faster than grading from scratch; 
+and second, we recommend reviewing mostly those ASYST grades that are most prone to errors (see Section <a href="#6"> How do I continue with the output from ASYST? </a>).
+
+The program is written in Python; the source code is publicly available. To make ASYST easier to use, the Python scripts have been 
+converted into an executable that is usable in Windows 11.
+
+<h2 id=2>Which languages are supported by ASYST?</h2>
+
+ASYST has been tested for German and <a href="https://nlpado.de/~ulrike/papers/Pado22.pdf">English</a>. 
+
+The language model that covers German can in principle handle other languages, as well. So, in principle, you could select "German" as language setting and upload data in one of the other languages covered by the model. If you try this, please check the results carefully, as this is untested! (<a href="https://www.sbert.net/docs/pretrained_models.html#multi-lingual-models">According to the model developers,</a> the covered languages are: ar, bg, ca, cs, da, de, el, en, es, et, fa, fi, fr, fr-ca, gl, gu, he, hi, hr, hu, hy, id, it, ja, ka, ko, ku, lt, lv, mk, mn, mr, ms, my, nb, nl, pl, pt, pt-br, ro, ru, sk, sl, sq, sr, sv, th, tr, uk, ur, vi, zh-cn, zh-tw.)
+
+
+<h2 id=3>How do I use ASYST?</h2>
+We developed ASYST to be as user-friendly as possible.
+
+<h3 id=4>What does the input look like?</h3>
+
+The program works based on your data in Excel's .xlsx format (which can also be generated by Libre Office Calc and other programs). This is an example table:
+
+![table_input.png](images%2Ftable_input.png)
+
+The following information needs to be included in the **correct order** and with the **correct column headings**:
+1) **question**: The question that was asked
+2) **referenceAnswer**: A correct answer /  reference answer
+3) **studentAnswer**: The student answer that is to be evaluated
+5) (optional) **observed grade**: The grade given by the teacher can be entered here in order to evaluate the accuracy of the ASYST predictions.
+
+The example table can be found at <a href="https://transfer.hft-stuttgart.de/gitlab/ulrike.pado/ASYST/-/blob/main/DE_Demo_Daten.xlsx">DE_Demo_Daten.xlsx</a>. It contains some questions and answers from the CSSAG corpus (Computer Science Short Answers in German) of HFT Stuttgart. The corpus is licensed as CC-BY-NC.
+
+<h3 id=5>How do I run ASYST on Windows 11? </h3>
+
+First, download <a href="https://transfer.hft-stuttgart.de/gitlab/ulrike.pado/ASYST/-/blob/main/ASYST.exe">_ASYST.exe_ </a>.
+The program can be started by double-clicking its icon.
+
+The program will take a while to start (approx. 1 minute). During this time the system is initialized.
+
+**Note**: Windows Defender may warn against running the application because the program does not have a security certificate.
+By selecting _more information_ and then _Run anyway_ the error message disappears and ASYST can be executed. ASYST's source code is open source so you can verify the code is not malicious.
+
+
+<img src="images/win_def_de_1.JPG" width="450">
+<img src="images/win_def_de_2.JPG" width="450">
+
+After the program has been started, a window appears. First, select the language of the answers to be evaluated.
+The table to be processed can then be selected by clicking on the “Input File” field. The data should be arranged as described above.
+After clicking on the “Start” field, ASYST begins processing the data. Again, this can take a while (1-2 minutes, relatively independent of the amount of data being processed).
+
+Once the program has processed all answers and made predictions, a table view headed "Results" opens.
+
+The results table contains all columns of the input table, as well as the grades suggested by ASYST -- see the the "predicted grade" column. The grades for answers classified as incorrect are highlighted in red. You cannot make change in this table. Instead, save the data by clicking on “Save as” and then open the resulting .xlsx file with a spreadsheet program.
+
+![table_results.png](images%2Ftable_results.png)
+
+As soon as the result table is displayed, ASYST can read and process the next input table.
+
+**ATTENTION: The results table is not saved automatically.** 
+Therefore, to save the results, the **"Save as"** button should be clicked and the output table should be saved at the desired location.
+
+
+<h2 id=6>How do I continue with the output from ASYST?</h2>
+
+We recommend the following **process** when using ASYST:
+
+(Further information and a concrete example of the procedure can be found in <a href="https://nlpado.de/~ulrike/papers/Pado22.pdf">_Assessing the Practical Benefit of Automated Short-Answer Graders_</a>.)
+
+1) **Define requirements**: How accurate does the grading need to be in my current use case?
+    <ul>
+    <li>When evaluating free text questions in low-stakes test situations (not in a final exam or similar), <b>human grades</b> differ in around 15% of cases! </li>
+    <li>In such situations, we therefore recommend aiming for a grading accuracy of at least 85% after using ASYST plus human review. </li>
+    <li>The distribution of grading errors (excessive strictness/leniency) should also be taken into account</li>
+    <li>Ultimately, using the tool should save users time: set the available time budget or a minimum requirement for time saved. </li>
+    </ul>
+
+2) **Collect** manually evaluated **test data:**
+
+    To get an idea of the accuracy and reliability of the automated grader, annotated test data is needed.
+    This is input data for which a grade has already been determined. This can be answers from previous tests, for example.
+    To make the data set as robust as possible against random fluctuations, it should ideally contain a few hundred responses -- but smaller data sets can of course also be used.
+
+4) **Analyze** the performance of the automated grading
+   
+    The manually graded test data can be used to measure how reliable and accurate the automated grader is for the test data. This will give you an idea of how well the grade prediction works for your own data set.
+
+    For this purpose, process the questions and answers from the test data set using ASYST and compare the grade predictions with the manual assessment (e.g. in a spreadsheet such as Excel or Libre Office Calc).
+
+    The proportion of correctly classified answers in the entire data set gives you the system accuracy (which should be at around 85% or higher, which means disagreement between the manual and machine grades of 15% or less). 
+    
+    You can also calculate the precision for each grade ("correct"/"incorrect"). Precision measures how many predictions of a given grade were actually correct, i.e. how trustworthy the ASYST's predictions are for a given label. A precision of 75% for the rating "correct" means that three quarters of all predictions of "correct" were in fact right, but for a quarter of the cases the answer was actually wrong according to the manual grades.
+
+    _(We plan to add functionality to automatically generate these reliability parameters in the future.)_
+
+5) **Decide** how to use ASYST's predictions.
+   
+    A usage decision can now be made based on the reliability parameters collected for the criteria mentioned above.
+    <ul>
+    <li> How large is the proportion of correctly predicted reviews? If it is >85%, you can even adopt the ASYST predictions unchanged if you wish. </li>
+    <li> What is the precision of the grade labels ("correct"/"incorrect")? If one of the grade labels is likely to be significantly more reliable, you can decide to accept these predictions without review and <b>only</b> check the predictions for the less reliable grade predictions. In practice, this leads to significant time savings. </li>
+    <li>How is the grading error distributed? Are correct answers frequently predicted to be incorrect, or vice versa? Is this acceptable for your situation? </li>
+    <li> How much evaluation effort would you have saved for the example data set, e.g. by accepting the more reliable grade label without review?
+    </ul>
+
+
+
+<h3 id=7>How can I run ASYST if I don't use Windows 11?</h3>
+The clickable application “ASYST.exe” is only suitable for running on Windows 11.
+
+On other operating systems, ASYST can be run from a development environment.
+The ASYST source code is written in Python and can therefore be robustly executed in various development environments.
+For users who are not familiar with running Python programs, one option is described in more detail below.
+<h4 id=8>Running ASYST in the Pycharm development environment </h4>
+<ol>
+<li>If you haven't already done so, the Pycharm development environment from the Internet
+     Download <a href="https://www.jetbrains.com/pycharm/download/?section=mac"> </a> and install.
+     For more information and troubleshooting see
+     <a href="https://www.jetbrains.com/help/pycharm/installation-guide.html">Pycharm installation guide</a>.</li>
+<li>Install Python
+
+ASYST was developed in Python 3.10 - therefore this version is recommended for execution.
+The version that matches the operating system can be selected and installed at https://www.python.org/downloads.
+</li>
+
+<li> Download the source code from Gitlab to the development environment:
+
+Get from VCS
+
+
+<img src="images/get_from_vcs.png" width="450">
+
+
+Enter the following path in the _url_ field: git@transfer.hft-stuttgart.de:ulrike.pado/ASYST.git
+
+
+<img src="images/svn_url.png" width="450">
+
+
+Then click on _clone_ and wait
+</li>
+
+<li>Configure development environment
+**Configure Python interpreter:**
+
+Navigate to _Settings >> Project ASYST >> Python Interpreter >> Add Interpreter >> Add local Interpreter_
+
+![add_interpreter.png](images%2Fadd_interpreter.png)
+
+
+![create_venv.png](images%2Fcreate_venv.png)
+
+
+_Location_: [Project Path]/[Project Name]/Source,
+
+
+_Base interpreter_: Path to the installed Python version
+
+
+*Install required packages:*
+If Pycharm does not itself suggest installing the packages listed in the requirements.txt,
+manually run the following commands in the PyCharm terminal:
+
+'''
+> cd Source
+> 
+> 
+> pip install -r requirements.txt
+
+'''
+
+</li>
+<li>Run ASYST
+
+![run_button.png](images%2Frun_button.png)
+
+
+After the file _main.py_ has been selected via the project directory on the left, the greyed out _Start button_ at the top right of the window will appear green. A single click is enough to execute the ASYST code.
+
+</li>
+</ol>
\ No newline at end of file