Transkripte
1. Azure Open AI Intro Demo: Hallo, alle zusammen. Also
willkommen zu diesem Kurs. Das ist AI 050. Das ist die Entwicklung der
generativen KI-Lösungen mit Ihrem Open AI-Service Zuallererst gibt es für diesen Kurs
keine Zertifizierungsprüfung, aber Sie können
diesen Kurs auf jeden Fall zu Ihrem
Wissenszweck machen . Und eines der wichtigsten
Dinge, dass Sie diesen Kurs
machen werden , weil
dieses spezielle Thema bei anderen
Zertifizierungsprüfungen
wie AI 900 oder AI 102
sehr wichtig ist bei anderen
Zertifizierungsprüfungen
wie AI 900 oder AI 102
sehr wichtig . Wenn Sie also nach einer
KI-Grundprüfung oder einer AI 102 suchen, handelt es
sich um eine Prüfung auf assoziiertem Niveau. Dieses Thema ist da
drin, oder? Deshalb ist diese spezielle
Lösung sehr wichtig. Lassen Sie uns nun verstehen, was genau das
Kursmodul in
diesem
Kurs sein wird und was in allen Kursmodulen behandelt wird. Zuallererst werden
wir auf jeden Fall
eine offene KI-Ressource
auf der SR-Plattform entwickeln . Wir können diese GPT-ähnliche
Anwendung mithilfe
der LLM-Modelle erstellen , große Sprachmodelle
wie GPT-Modelle, wir können auch Bilder
mit einem Dali-Modell generieren gibt es also verschiedene
Modelle, wie Open AI Wenn Sie grundsätzlich
eine
Antwortanwendung in natürlicher Sprache haben eine
Antwortanwendung in natürlicher Sprache möchten, sollten
Sie Chat GPT erstellen Aber wenn Sie möchten,
sagen wir, Sie schreiben einen Text und möchten, dass ein Bild
generiert wird, dann verwenden wir
ein Dali-Modell, und natürlich werden wir auch
verschiedene Modelle verwenden Sie können es auch für
Ihre eigenen Daten verwenden. Wenn Sie über
eigene Daten verfügen, können
Sie natürlich Ihren Open AI-Service und auch Ihre eigenen
Anwendungen verwenden. Deshalb wünsche ich Ihnen viel
Glück für diesen Kurs. Sie Fragen haben, können Sie gerne Fragen Wenn Sie Fragen haben, können Sie gerne Fragen stellen. Danke
euch allen.
2. Kursübersicht: Ll, alle zusammen. Willkommen im
Kursübersichtsbereich von AI 050, der
generativen KI-Lösung mit Ihrem Open AI-Service Lassen Sie uns nun
über diesen Kurs sprechen. Nun, das ist der Kurs zur Entwicklung generativer
KI-Lösungen
, den wir
bereits besprochen haben. Zuallererst gibt es
keine spezielle Prüfung, die Sie für diesen Kurs
planen können. Dies ist ein Kurs
für Ihr Wissen, aber es gibt keine Prüfung als solche, die es derzeit
für diesen Kurs gibt. Aber jetzt werden mich die Leute fragen, welchen Vorteil wir haben werden,
wenn wir diesen Kurs machen. Nehmen wir an, Sie streben eine andere KI-basierte Zertifizierung an, vielleicht AI 900 oder KI eins oder zwei. Dieses Thema ist allen
KI-basierten Zertifizierungen gemeinsam. Das heißt, dies
ist das Thema, das Sie in jedem
einzelnen Thema finden werden. Jede einzelne Prüfung,
das ist AI 900 AI eins oder zwei. Dies ist ein wichtiger
Open-AI-Service
, ein wichtiger
Service von Microsoft, wenn Sie
generative KI-Lösungen entwickeln möchten. Ich würde sagen, das ist ein wichtiger besonderer
Kurs. nun verstehen, welche Dinge in diesem Kurs
behandelt werden Lassen Sie uns nun verstehen, welche Dinge in diesem Kurs
behandelt werden? Dies sind die Module,
die in diesem Kurs „
Deploy Open A Resource“
und „OpenAI-Modell“ behandelt Deploy Open A Resource“
und „OpenAI-Modell Sie können
die verschiedenen Modelle entwickeln, die es
gibt , wenn es
um dieses OpenAI geht, zum
Beispiel das GPT-Modell, das
Einbetten von Modellen ist da, das
Dali-Modell ist da, wie man den Code generiert, wie man auf der Grundlage Ihrer Beschreibung
etwas generiert, das als
Bilder bezeichnet wird Bilder Sie werden hier also viele
verschiedene Module finden,
seltsame Modelle hier seltsame Sie werden auch etwas finden als großes Sprachmodell
bezeichnet wird. Wir haben darüber gesprochen, was genau die großen Sprachmodelle sind. Außerdem werden Sie
sehen, wie
Sie diesen Open AI-Service auch
mit Ihren Daten nutzen können. Open AI ist ein
Microsoft-basierter Dienst , mit
dem Sie generative Inhalte erstellen
können Sie müssen die
Anwendungen wie CAT GPT Copilot gesehen haben Das basiert
vollständig auf generativen
KI-basierten Wir können diese
KI-basierten Anwendungen
mithilfe dieses speziellen
Dienstes Colles Open AI erstellen mithilfe dieses speziellen
Dienstes Colles Open AI Ich hoffe, dieser Teil ist klar, Leute. Ich danke euch allen.
3. Was ist generative KI: Hallo, alle zusammen. Heute werden
wir also über native
KI sprechen. Lass uns darüber sprechen. Bei nativer KI handelt es sich also um eine Kategorie
von Funktionen innerhalb der KI-Lösung, die eine menschenähnliche Reaktion oder einen originellen Inhalt
erzeugt. Es kann den
Inhalt in einer Vielzahl
von Formaten erstellen , z. B. in
Ihrer natürlichen Sprache. Es kann Bilder erzeugen. Ich kann auch eine
Codegenerierung durchführen. zum Beispiel die Generierung natürlicher
Sprache, Beschreiben Sie zum Beispiel die Generierung natürlicher
Sprache, wodurch
der ursprüngliche Inhalt erstellt wird. Beispiel: Die Anwendung, von der
Sie sicher schon einmal gehört
haben Copilot oder CA GPT,
wo Sie angeben, wonach Sie
suchen, geben Sie die Eingabeaufforderungen suchen, geben Sie die Eingabeaufforderungen Nehmen wir an, können Sie
eine Stellenbeschreibung für einen Manager oder Mitarbeiter im Bereich
Schädlingsbekämpfung schreiben ? Sie erhalten die Antwort darauf, und das ist
dem ursprünglichen Inhalt oder der
menschenähnlichen Reaktion ziemlich ähnlich . Hier kann UE
diese Fähigkeiten nutzen , die
als asentive KI bezeichnet Die zweite
ist nun Image Genation. Bei einigen
anwendungsgenerativen KI-basierten Anwendungen können
sie beispielsweise eine Antwort, eine menschliche Anfrage,
entgegennehmen und
ein entsprechendes Bild generieren Sie können zum Beispiel zu
diesem Bing.com-Schrägstrich „Create“ gehen dort sagen, dass ich
dieses bestimmte Bild
auf der Grundlage dieses bestimmten Textes haben möchte dieses bestimmte Bild
auf der Grundlage dieses bestimmten Sie geben den
Text an und Sie
erhalten ein Bild, das auf Ihrem Text basiert Sie können einen
Regenbogen oder einen Wasserfall sehen, und es wird
ein Bild für Sie generiert. Es kann auch
eine sogenannte Codegenerierung durchführen , bei der Sie Codes entwerfen oder Ihren Softwareentwicklern
helfen, ebenfalls Codes zu
schreiben. Zum Beispiel kann ich die
Anweisungen nach Belieben geben, den Python-Code
schreiben, um zwei Zahlen zu
multiplizieren, und er generiert
einen Python-Code für mich. Dort können wir auch eine
natürliche Sprachgenerierung, Bildspende und
Codegenerierung Nun, wie funktionieren diese generativen
KI-Anwendungen? Oder was genau verbirgt sich
hinter den Kulissen? Hinter den Kulissen
basieren
diese generativen
KI-basierten Anwendungen also diese generativen
KI-basierten Anwendungen auf großen
Sprachmodellen. Keine Sorge, Sie
müssen sich nicht eingehend damit befassen. werden Ihnen keine Fragen gestellt In der Prüfung zum LLM werden Ihnen keine Fragen gestellt,
aber es ist gut, etwas über
große Sprachmodelle zu wissen Große Sprachmodelle folgen nun
grundsätzlich dieser
Transformator-Modellarchitektur besteht nun
aus drei Schritten Diese Architektur besteht nun
aus drei Schritten.
Einer ist die Kanisierung Nehmen wir an, Sie haben die
Aussage wie hier. Ich habe einen Hund
laut bei einer Katze parken hören. Jedes einzelne
Wort erhält also einen eindeutigen Textwert
oder eine Textnummer. Wie Sie sehen können, ist
das Zeichen, das ich gehört habe,
zwei, A ist drei. Nun, A wiederholt sich hier
zweimal, aber es wird ein
einziges Zeichen gegeben, Hund von fünf. Also jedes Wort, Zeichen, ist nichts anderes als ein Wort
oder ein Teil davon. Und die Technik,
Ihren Text in Token zu zerlegen , wird
als Tokenisierung bezeichnet Das ist der erste Schritt in Ihren großen Sprachmodellen.
Nun, was ist das? Nun, das sind nur Zahlen. Wie stellen wir eine Beziehung
zwischen diesen Zahlen her? Hier haben wir eine zweite Methode, die als Einbettung
bezeichnet wird ist jetzt diese spezielle Einbettung,
wie Sie sehen können, dieses Skateboard
, wir haben
mehrere
Array-Werte, mehrere
Array-Werte Also stellen wir
nach diesem ersten Schritt, der Tokenisierung, eine Beziehung
zwischen diesen Tokens her , die als Einbettungen bezeichnet
wird Hier stellen wir eine
Beziehung zwischen Tokens her. Der dritte Schritt besteht nun darin
, die Stärke der Beziehung zwischen
Tokens und Aufmerksamkeit zu ermitteln, wie Gehörten und
Hund mehr Gewicht zuzuweisen. Und stelle „Ich habe
einen Hund gehört“ als Victor dar. So
basieren diese
generativen KI-Anwendungen also auf großen
Sprachmodellen, LLM. Nun, was ist dann Open AI? Um
Ihre generative
KI-basierte Anwendung nutzen zu
können, müssen Sie nun Ihre generative
KI-basierte Anwendung nutzen zu
können, einen Dienst
namens ASR Open AI verwenden, wobei OpenI eine auf
Microsoft Cloud
basierende Lösung für die
Bereitstellung dieser großen
Sprachmodelle ist Microsoft Cloud
basierende Lösung für Bereitstellung dieser großen
Sprachmodelle Dort werden wir
das als OpenA-Dienste verwenden. Wir werden also
mehr über den OpenA-Dienst sprechen. Lass uns verstehen.
Im ASR OpenA-Service gibt es also bereits vorab
trainierte Modelle. Sie müssen diese LLM-Modelle nicht
schreiben. Es gibt bereits trainierte
Modelle. Sie können zum Beispiel vier
GPT-Module für Ihre Generierung
natürlicher Sprache verwenden vier
GPT-Module für Ihre Generierung
natürlicher Sprache Wenn Sie
eine Anwendung
wie CA GPT oder Copilot erstellen möchten , können
Sie das CPT-Modell verwenden, dem die natürliche Sprache
und
der Code generiert
und verstanden werden können natürliche Sprache
und
der Für die Codegenerierung
oder für die Generierung natürlicher
Sprache können
Sie also oder für die Generierung natürlicher
Sprache können
Sie also das GPT-Viermodell verwenden Einbettungsmodell, das Sie verwenden
können, wenn Sie Ihren Text in eine
numerische Vektorform konvertieren möchten Ihren Text in eine
numerische Vektorform konvertieren Sie können ein Modell
namens Dal verwenden, mit dem die Bilder
aus natürlicher Sprache abgeleitet werden
können Diese LLA-Modelle
sind also bereits in
Ihrem Open AA-Dienst vorhanden. Sehr wichtig aus Sicht der
Prüfung
und auch , wofür
Sie alle Modelle verwenden werden, sagen
wir für die Generierung natürlicher
Sprache. Sie können GPT verwenden. Es stellt sich die Frage
, welches Modell Sie verwenden
werden, wenn Sie die Bilder
in natürlicher Sprache
generieren möchten , Sie können ein Dally-Modell verwenden Also werden wir
diesen Open AA-Dienst verwenden. Okay. Also werden wir in
der nächsten Vorlesung mehr über
Ihren Open AA-Service
sprechen. Ich hoffe also, dieser Teil ist
klar. Danke euch allen.
4. Azure Open KI: Zahlen Sie einmal. Deshalb werden wir jetzt mehr über
Ihren Open-A-Service erfahren. Nun, der Open-A-Service ist nicht
für alle Kunden verfügbar. Sie müssen den Zugriff
auf Ihren Open AA-Service beantragen. Nun, wie machen wir
das? Jetzt können Sie dieses Formular
verwenden, um
Zugriff auf diesen AR
Open EA-Dienst zu beantragen , oder Sie können zu dieser URL gehen, und dort wäre
ein Microsoft-Formular. Nun, es ist nicht so, dass
du den Zugang
beantragen wirst und dir dann der Zugang gewährt
wird. Nein.
Zuallererst ist es für Unternehmen. Es ist nicht nur für
Übungszwecke, Sie beantragen den Zugang
und Sie erhalten ihn. Es ist für Unternehmen
gedacht,
die generative KI-basierte
Anwendung entwickeln, und sie werden es sehen. , ob dein Unternehmen
für diesen Open
EA-Service berechtigt ist oder nicht. Nun, warum dieser Zugang beschränkt ist, nur weil einige der Prinzipien von
Responsible EI gelten. Es gibt Leute, die diese Anwendung
tatsächlich auch auf schädliche Weise
nutzen können ,
und
im Pground
wird eine Menge
Rechenleistung für diesen Open-AA-Dienst verbraucht Es wird also nicht jeder
Zugang zu diesem OpenA-Dienst erhalten. Sie müssen
zunächst das Formular ausfüllen. Nach einiger Zeit werden
Sie darüber informiert, ob Sie Zugriff auf diesen
Open AA-Dienst
haben oder nicht. Es ist also nur für Unternehmen. Es ist nicht so, dass Sie
Ihrer E-Mail-Adresse eine
persönliche E-Mail-Adresse geben können Ihrer E-Mail-Adresse eine
persönliche E-Mail-Adresse und der Zugriff wird gewährt, nein. Lassen Sie mich
Sie nun zu diesem Formular und Ihnen zeigen, wie
dieses Formular genau aussieht. Jetzt drücke ich einfach R
im Browser
und das ist die Seite
, die geöffnet wurde Fordere den Zugriff auf den
SR OpenA-Dienst an Wie Sie
hier sehen können, müssen
Sie Ihren
Vornamen, Nachnamen,
wie viele Abonnements
Sie haben, Ihre ID, Ihren Firmennamen, Ihre E-Mail-Adresse
und alles, was Sie hier angeben
müssen, angeben Also alle Details, die
Sie angeben müssen. Danach wirst du
darüber informiert, ob du Zugriff auf diesen
Open EA-Service
hast oder nicht. Nur weil ein Teil
des verantwortungsvollen KI-Prinzips und der
Rechenleistung im Rudel verwendet
wird, erhält
nicht jeder Zugang zu diesem Open EA-Service, richtig Aber wir haben Zugriff auf
Anleitungen
zu diesem speziellen
Open-AI-Service, wo ich
euch eine kleine Demo zeigen möchte,
wie ihr das
GPT-Modell oder das D-Modell verwenden könnt wie genau dieses
Open-AI-Studio aussieht Deshalb möchte ich Ihnen in
der kommenden Vorlesung zeigen, wie genau wir den
Open AA-Service erstellen können und was genau sich im Open AI-Studio
befindet Ich danke euch allen. Ich
hoffe, dieser Teil ist klar.
5. Demo Azure Open KI: Hallo zusammen. Deshalb werden
wir heute eine Demo
auf Azure Open EA machen. Also, wie ich Ihnen schon sagte,
Open EA ist nicht
für alle Kunden verfügbar. Sie müssen den
Zugriff auf diesen Service beantragen, und er ist nur für
Unternehmen bestimmt, die die native
KI-Basisanwendung
erstellen. Ich habe also Zugriff auf diesen Open EA-Service,
weil wir
den Zugang zu Anleitungen bekommen haben,
nur um einige Demos zu zeigen ,
damit Sie sehen können, wie das
Open AA-Studio aussieht Lassen Sie mich Sie also zum
SSR-Portal führen und Ihnen zeigen wie genau wir all die Dinge in
diesem Open AA-Service tun können Ordnung. Also, ich bin
im SCR-Portal und suche nach einem Dienst, sagen
wir, Open AI Ich möchte
einen Open-A-Service erstellen. Und lass uns
darauf warten. In Ordnung. Also der Postdienst
kommt als Open EI. Ich klicke auf ZO
Open. In Ordnung. Also klicke ich hier
auf Abschnitt erstellen. Ich möchte
diesen Open-A-Service erstellen. Ordnung. Also werde ich hier eine
Ressourcengruppe
auswählen. Ich werde, sagen wir, eine
offene KI-Liste auswählen , etwas
acht und zwei. Ich wähle die Preisstufe nach
der Anzahl der Anrufe, die
getätigt werden können, Standard D Null. Bei der Entwicklung
der anderen KI-Dienste ist alles ganz
dasselbe . Ich nehme die
Standardeinstellungen. Ich klicke auf vi plus create, und jetzt erstellen wir
diesen Open AA-Service. Warte einfach darauf. In Ordnung. Also klicke ich auf Jetzt erstellen und warte,
bis die Bereitstellung abgeschlossen ist. Ordnung. Die Ressource
wurde bereitgestellt. Ich klicke hier auf G to
Resource. Ich kann zu diesem Open AI Studio gehen. Ordnung. Jetzt funktioniert
Open A Service? Denken Sie daran, dass dies
nur in der Region Stine verfügbar ist. Easts ist eine der Regionen, in
denen ich eingesetzt habe. Wenn Sie dies also in
verschiedenen Regionen erstellen können, erhalten
Sie möglicherweise keinen Zugriff auf
diesen Open-A-Service, erhalten
Sie möglicherweise keinen Zugriff auf da er nur für
Fleckenregionen
verfügbar ist nur für
Fleckenregionen
verfügbar Nehmen wir an,
ich möchte
einige Modelle in diesem
speziellen Open E-Studio erstellen . Ich möchte einige generative
KI-Basisanwendungen erstellen. Also klicke ich auf
Open A Studio. Gehen wir zu diesem Open A Sudio. Ordnung. So sieht das
Open AI-Studio aus. Sie haben also das Modell, wie Sie auf der
linken Seite sehen können, das die Bilder auf der
Grundlage Ihres Textes
generiert. Sie haben hier auch den
Chat-Spielplatz, dem Sie eine
Chat-ähnliche Funktionalität haben können. Sie haben eine
Abschlussfunktion , mit der Sie sie testen können. Es gibt also eine Menge
Dinge, die Sie tun können. Nehmen wir an, ich möchte hier eine
Chat-Funktion einrichten. Nehmen wir an, ich möchte ein GPT-Modell
erstellen dem ich mit einer
bestimmten Anwendung chatten kann Es ist einer
Copilot-basierten Anwendung,
die ich zu erstellen versuche, ziemlich ähnlich Copilot-basierten Anwendung,
die ich zu erstellen versuche, Also werde ich zuerst auf diesen
Chat-Spielplatz
hier drüben klicken zuerst auf diesen
Chat-Spielplatz
hier drüben Ordnung. Bevor Sie den Chart Playground
verwenden können, müssen
Sie ein Deployment erstellen. Also klicke ich darauf, um
ein Deployment zu erstellen . Ich
wähle das Modell aus. Also habe ich dir gesagt, dass es
bereits vortrainierte generative
KI-Modelle gibt. Nehmen wir an, ich möchte
diesen GPT Four verwenden, weißt du, der GPT 40 ist ein
neuestes Modell, das du verwenden kannst Nehmen wir an, ich entscheide mich für dieses
Modell, bei dem
GPT 35 bis 16 K steht . Und ich sage, mein Einsatzname
ist, sagen wir, ich möchte eine
Chat-basierte Anwendung machen Also sage ich
Chat-basierte Anwendung 01, das ist
der Name meiner Bereitstellung Und scrolle nach unten und
lass uns es erstellen. Warten wir nun,
bis
diese Bereitstellung abgeschlossen ist. Und wir haben hier das
GPT-Modell verwendet. Die vortrainierten
Modelle sind also da. Also, das kannst du hier sehen. Es hat mir gegeben. Okay. Auf diese Weise testen Sie Ihren Assistenten beim Starten
des Chats, ob
Sie im Grunde genommen
eine Aufforderung geben Bekommen Sie die
Antwort oder nicht? Nun, was ich tun kann, hier drüben
gibt es eine wichtige Sache. kannst du sagen.
Systemnachricht, sehr, sehr wichtig. Und wenn Sie auf den Tooltip klicken, lautet die
Systemmeldung,
dass Sie
dem Modell die Anweisung geben ,
wie es sich verhalten soll Nehmen wir an,
Sie sind derzeit in
den Systemnachrichten ein KI-Assistent, Sie sind derzeit in
den Systemnachrichten ein KI-Assistent Menschen hilft
, Informationen zu
finden Darauf ist die
Systemnachricht eingestellt, die angibt, wie Sie sich verhalten sollten, wenn ein
Benutzer mit Ihnen interagiert. Nehmen wir an, ich möchte
ändern, dass Sie
ein KI-Assistent sind , der
Leuten hilft , die SR-Kurse herauszufinden ,
wie, sagen wir, das
ist der, den ich sage, dass
Sie sich so verhalten sollten, und alle anderen, sagen wir, ich schreibe weitere Informationen,
antworten Sie bitte mit einem Emerge und sagen
Sie, Sie haben keine
Ahnung davon. Das ist das, ich meine
, mein KI-System. So solltest du dich verhalten. Das ist die Systemnachricht. Wenn Sie also auf diesen Tooltip klicken, finden
Sie Anweisungen Mehr dazu findest du. Was genau sind
Systemnachrichten. Sobald dies erledigt ist, können
Sie auf
Änderungen übernehmen hier
auf Ihre Systemnachricht klicken . Ich sage, du aktualisierst
deine Systemnachricht. Ja, klicken Sie auf Weiter
und warten Sie darauf. Sobald es
fertig ist, können Sie
nach unten blättern und Ihre Abfrage vorher
testen. Sie können Ihre
Anfrage hier eingeben und erhalten im Grunde eine Antwort von Ihrem Assistenten. Ordnung. Testen Sie jetzt
die Funktionalität. Sie müssen also einige Zeit
warten, bis Sie
die
Systemnachricht aktualisiert haben. Nehmen wir an, ich habe 5 Minuten
gewartet. Danach kann ich eine Frage
stellen. Nehmen wir an, ich sage,
jede Information über, sagen
wir, Politik, ich
sage das meinem Assistenten. Jetzt
wird mir mein Assistent antworten. Es tut mir leid, aber ich habe
keine Informationen über Politik. Nehmen wir an, ich sage das. Welche Informationen können Sie jetzt
bereitstellen, warten wir darauf. Können Sie sich vorstellen, dass ich Informationen zu
einer Vielzahl von Themen
im Zusammenhang mit SR bereitstellen
kann , oder? Weil wir
die Systemmeldung eingestellt hatten , dass Sie den Leuten helfen, die ZR-Kurse
herauszufinden weitere Informationen haben, antworten
Sie bitte mit
einer Meldung und sagen Sie, dass Sie keine Ahnung davon
haben, oder? Hier können Sie also
die Systemnachricht verwenden , so wie die EI sein sollte Es gibt auch verschiedene
Modelle.
Nehmen wir an, Sie möchten das Dal-Modell
verwenden, bei dem Sie
das Bild auf der Grundlage Ihres Textes generieren möchten Sie können dieses
Dal-Modell auch verwenden Hier können Sie
die verschiedenen Arten
von generativen Modellen und
generativen KI-Modellen
als Ihren Open AI-Service verwenden die verschiedenen Arten
von generativen Modellen . Ich hoffe, dieser Teil ist klar.
Danke euch allen.
6. Azure OpenAI-Parameter und Beispiele: Wir wollen. Deshalb
möchte ich heute über einige der wichtigen Parameter sprechen, wenn es um Ihre offene KI geht. Lassen Sie uns über
diese Parameter sprechen. Wenn Sie zu
Ihrem offenen KI-Studio gehen, Ihnen mehrere Parameter zur Verfügung,
z. B. maximale Reaktionszeit. Dadurch wird die Anzahl der
Token begrenzt , die die Antwort enthalten
kann. Nehmen wir an, Sie möchten
diese Antwort. Wann immer Sie chatten, sagen
wir, mit einem Chat-Modus
im Open A-Studio. Sie geben an, dass dies
etwas ist, wonach Sie suchen. Sie möchten
die Anzahl der Wörter oder die
Anzahl der Tokens minimieren, dann können Sie den Wert
dieses maximalen
Antwortparameters reduzieren . Das heißt, Sie können die Anzahl
der Tokens
begrenzen , oder mit anderen Worten, es sind Wörter, die
Sie einschränken. Das wird als
maximale Antwort bezeichnet. Andere Parameter werden
als Temperatur bezeichnet. Sie kontrolliert die Zufälligkeit. Das bedeutet, dass Sie im Grunde genommen einen
Teil des Werts mit
einer höheren Zahl konfigurieren , was zu
einer weniger deterministischen Reaktion
und einer eher zufälligen Ausgabe Im Grunde gibt es
einige Werte, die Sie für diese Temperatur
konfigurieren können diese Temperatur
konfigurieren Parameter. Nehmen wir an, Sie möchten jedes Mal, dass die
Antwort zufällig sein soll. Sie wollen das,
sagen wir, Sie
suchen vielleicht zu einem Thema
namens S-Politik. Sie suchen nach einer
Art Antwort, und Sie wollen jedes Mal, wenn Sie eine zufällige Ausgabe
wollen
, eine, bei der Sie
diesen Temperaturwert grundsätzlich
erhöhen können . Je höher die Zahl, das
heißt, je mehr zufällige Ausgabe Sie erhalten, die die
Temperatur steuert, steuert die
Zufälligkeit hier. Nun, die dritte ist top. Das ist ziemlich das Gleiche wie die
Temperatur. Wie du sehen kannst. Es steuert auch die
Zufälligkeit nur ähnlich, aber auf unterschiedliche
Weise in Bezug auf die Temperatur Aber es ist ziemlich
ähnlich. Es ist immer ratsam, dass Sie, wenn Sie die Zufälligkeit kontrollieren wollen
, das eine oder das andere
ausprobieren ,
aber nicht beide. Das müssen
Sie beachten Nun gibt es noch
zwei weitere Parameter
, auf die ich eingehen möchte, was als
Frequenzstrafe bezeichnet wird Es konzentriert sich auf die
Wiederholungshäufigkeit eines Wortes. Nehmen wir an, ich habe vielleicht im
Diagrammmodus gefragt und ich sage, bitte gib mir ein paar
Linien auf der Parkseite, es hat so
etwas generiert Heute bin ich in den Park gegangen,
der Park war wunderschön. Ich habe den Park genossen. Man kann sehen , dass es viele
Parks gibt, ist schon was. Sie können sehen, dass sich das hier ziemlich häufig
wiederholt. Was sich vielleicht wiederholend anhören mag. Um dieses Problem zu
lösen, können Sie einen Parameter verwenden, der als Frequenzstrafe
bezeichnet wird .
Das könnte angewendet werden. Je höher die Frequenz, desto geringer ist
die Wahrscheinlichkeit, dass die gebräuchlichen Wörter
generiert
werden. Wenn Sie die
Frequenzeinbuße verringern, erhöht sich die
Wahrscheinlichkeit, dass das Modell einige häufig verwendete Wörter generiert. Sie müssen den Wert
dieser Frequenzeinbuße hier erhöhen. Sie können sehen, dass
wir in
diesem Screenshot über die maximale
Reaktion und die Temperatur sprechen, wir sprechen über Top P, wir haben über
Frequenzeinbußen gesprochen
und es gibt
noch eine weitere Sache, die als Präsenzstrafe
bezeichnet wird . Nun, was ist es? Es konzentriert sich auch auf das Vorkommen, aber es konzentriert sich hauptsächlich auf das
Vorkommen von Wörtern. Das Wort Vorkommen hier drüben. Lass uns jetzt darüber reden. Nun, im Gegensatz zu deiner
Häufigkeitsabrechnung , bei der es darum geht,
wie viele
Wörter das bestimmte Wort hat, wie oft das Wort vorkommt. Aber es konzentriert sich auf jedes Wort. Das bedeutete, dass es sich
im Grunde
auf jedes einzelne Wort konzentrieren wird, oder? Unabhängig davon,
wie oft es benutzt wurde. Es wird versucht,
die Wahrscheinlichkeit
zu erhöhen in einer Antwort neue
Themen eingeführt werden. Das ist die
Präsenzstrafe. Es sieht die Frequenz nicht, es überprüft es nicht wie oft
eine Station erschienen ist. Es wurde einfach durch das
bloße Erscheinen der Station ausgelöst. Unwahrscheinlich, egal wie
oft es benutzt wurde. Hier wird es
als Präsenzstrafe bezeichnet, wie Sie den
Wert hier sehen können. Lassen Sie mich Sie jetzt
ins offene Studio mitnehmen und Ihnen diese Parameter zeigen. Lass mich dich
da rüber bringen. In Ordnung. Ich habe also bereits
einen Open EA-Dienst erstellt und bin
in meinem Open ES-Studio. Ihr wisst also,
wie man ins
Open EA Studio geht. Aber nehmen wir an,
ich sage, dass ich zuerst
das Deployment machen möchte ,
weil
wir zunächst ein Deployment benötigen würden Nehmen wir an, ich mache eine Demo
und erstelle ein Deployment. Ich sage also, ich
möchte ein GPT-Diagramm verwenden, dieses GPT-35-16-Modell, und der Bereitstellungsname lautet, sagen
wir, das ist
für meine Parameter Bereitstellung von Parametern, und das ist es, was ich will,
und lassen Sie uns es erstellen Warten wir auf diese Kreation. Ordnung. Es ist erledigt. Gehen wir in einen
Chat-Modus hier drüben, zum Chat-Spielplatz hier drüben. Und hier drüben, wenn du nach unten
scrollst, kannst du diese
Parameter hier sehen, wo du
die Zufälligkeit kontrollieren kannst, wo du die Häufigkeit
der Wörter kontrollieren kannst, die verschiedenen anderen Parameter,
wie du siehst, richtig? Wenn Sie also die Anzahl der Werte
dieses Parameters
erhöhen, die Anzahl der Werte
dieses Parameters
erhöhen bedeutet das,
dass
es wahrscheinlicher ist, dass das Wort im Grunde genommen
nicht wiederholt wird, dass
es diese Wörter nicht wiederholt Aber wenn Sie es im Grunde auf die Nullstufe
scrollen, bedeutet
das, dass es wahrscheinlich immer wieder dieselben Wörter
verwendet,
und das ist genau der Punkt, an dem diese
Frequenzeinbuße liegt, richtig Ich hoffe also, dass, wenn es um diese
geht, die Parameter
sehr wichtig sind Eine weitere Sache, über die ich hier sprechen
möchte, wenn du nach oben scrollst,
sagen wir, du sagst, dass
du ein EA-System bist. Deshalb richte ich eine Systemnachricht ein, die angibt, wie sich
dein EI verhalten soll. Ich habe es
hier eingerichtet, damit du
Leuten hilfst, SRO-Kurse zu finden Nehmen wir an, das ist
im Grunde eine Systemnachricht, und Sie können
darauf klicken, um die Änderungen zu übernehmen Wenn Sie dieser KI jedoch
einige Beispiele geben möchten ,
wie sie sich verhalten sollte, haben
Sie dies bereits
in der Systemnachricht festgelegt. Wenn Sie jedoch ein Beispiel
geben möchten, können
Sie hier ein
Beispiel hinzufügen. Wenn jemand fragt, bieten
Sie AWS-Kurse an? Die Antwort sollte also so lauten, ich
weiß nichts darüber. Ich habe keine Ahnung davon. Also das nennt man ein paar Schüsse oder man kann sagen, ein Beispiel, ein paar Schüsse, man kann noch ein Beispiel hinzufügen und ein Schuss bedeutet, dass man nur noch
ein Beispiel gibt. Das ist also eine gute Strategie
, die Sie anwenden können, wenn es um wenige Shot-Beispiele
und die Parameter
geht, wo Sie die
Zufälligkeit und
viele der generativen Art der
Ausgabe, die Sie erzeugen können, kontrollieren können Ich hoffe, dieser Teil ist klar.
Ich danke euch allen.
7. Integriere Azure OpenAI in deine App: Hallo zusammen. Heute möchte ich Ihnen nur eine Demo zu Open AI
zeigen, aber wie Sie es als
Ihren Open AA-Service
in Ihre Anwendung integrieren können . Bisher haben wir
bereits gesehen, dass Sie als
Ihr Open AA-Service
auf Ihrem Portal
und Open AA Studio Deployments
erstellen und chatten
können , wo Sie
Systemnachrichten und alles konfigurieren können Aber lassen Sie uns dasselbe sagen, Sie möchten es von
Ihrer Anwendung aus tun Nehmen wir an, es gibt eine
SSH-basierte Anwendung oder eine Python-basierte Anwendung Wie würden Sie Open AI verwenden? Im Grunde wollen wir sagen, sagen wir ich habe eine
Python-basierte Anwendung, ich möchte den
Open Ei-Service integrieren. So werden
wir es also machen. Lassen Sie mich Sie zunächst zum Visual
Studio-Code führen, in dem ich bereits eine
Python-Basisanwendung habe. In Ordnung. Also bin ich im Visual Studio. Dies ist die Anwendung
, die wir
verwenden werden , bei der Sie sehen können, dass
wir den Open E-Dienst, den
Open AI-Endpunkt und all
diese Dinge haben . Ordnung.
Zuallererst müssen
Sie
wissen, dass dieses Paket Ihr Open AA ist. Wenn Sie also
mit Open AA Service arbeiten möchten, dies ist eine
Python-basierte Anwendung, benötigen
Sie ein Paket. Lassen Sie mich das
Terminal hier öffnen. Sie müssen sich nicht
in diesen Code einarbeiten. Ich zeige
Ihnen nur, wie Sie den
Open AA-Service auch in Ihre
eigenen Anwendungen integrieren können . Lassen Sie mich zuerst das
Terminal öffnen und warten
wir darauf.
Es kommt jetzt. Also PIP install,
der Paketname, wenn Sie
mit Open AA-Diensten arbeiten wollen,
Open AA, der Name des
Pakets ist OpenA hier drüben,
ich stelle die Version zur Verfügung
, nach der ich suche Wenn Sie
die Version nicht angeben, wird
die neueste PIP ist ein Python-Paketmanager. Genau wie in Linux,
wenn Sie es gesehen haben, installiert eine App eine
Art Paket Ähnlich ist es in Python, wenn Sie ein Paket installieren
möchten, dies ist der Paketmanager , den Sie verwenden werden,
oder mit anderen Worten, dies ist der Befehl
, den Sie verwenden werden PIP install, der
Name des Pakets Das werden Sie
verwenden. Lassen Sie mich zunächst dieses Paket
installieren
und darauf warten. Dieses Paket ist erforderlich , wenn Sie
mit dem Open AA-Service arbeiten müssen. Warten wir also auf dieses
Paket. In Ordnung. In meinem Fall
ist das also bereits installiert, wie Sie sehen können,
heißt es, dass die Anforderung
bereits erfüllt ist, also ist es in meinem Fall bereits
installiert. Aber jetzt lass mich dir den Code
zeigen. Jetzt importieren
wir das Paket, das wir
Open AI installiert haben . Dieses Paket
wird also viele Klassenfunktionen und
all diese Dinge haben. Wir importieren also
diese spezielle Klasse, Sie können sagen, das
ist Ihre Open AI, und genau das tun wir. Also hier drüben gibt es eine
Datei namens Dot ENV. Hier müssen Sie
Ihren Endpunktschlüssel
und Ihren Bereitstellungsnamen angeben Ihren Endpunktschlüssel
und Ihren Bereitstellungsnamen Sie können zum ZR-Portal gehen. Sie können diesen Endpunkt
und die Schlüssel hier sehen. Sie können diese Schlüssel und den
Endpunkt sowie den Namen
der Bereitstellung hier kopieren . Wenn Sie sich nicht sicher sind, wie Sie die Schlüssel und den Endpunkt
kopieren
sollen, werde ich es Ihnen in ein
paar Minuten zeigen. Sobald Sie diese Dinge hier
angegeben haben, was wir zu sagen
versuchen, laden Sie bitte
die Informationen
, die in
der Punkt-ENV-Datei Das sind
Konfigurationseinstellungen, die wir vornehmen. Sobald dies erledigt ist,
initialisieren wir den Open AI-Client Wie Sie sehen können,
geben wir den Namen des Endpunkts Dies ist das eine und all die
Dinge, die wir bereitstellen Und das ist die Systemnachricht. Wenn Sie sich erinnern können, hatten
wir in Open AI eine sogenannte Systemnachricht wie sich eine KI verhalten sollte. Hier definiere ich
meine Systemnachricht. Es ist dem, was
wir im
Open AI-Studio gemacht haben, ziemlich ähnlich . Wenn ich jetzt nach unten scrolle, nehmen
wir die Eingabe des Benutzers entgegen, das,
was Sie wollen. Nachdem der
Benutzer also etwas eingegeben hat, senden
wir dieses Ding an ein
bestimmtes offenes KI-Modell. Wie Sie sehen, ist eine
Systemnachricht das, was wir im Grunde
eine Systemnachricht an der Spitze senden , das ist diese, diese
Nachricht als Systemnachricht, und eine Benutzernachricht ist etwas
, das der Benutzer bereitstellt. Das sind also
unterschiedliche Rollen. Systemrolle bedeutet also,
wie sich KI verhalten soll, und Benutzer bedeutet den Benutzer, der mit
Ihrem KI-Assistenten
interagieren wird . Und danach, was auch immer der generierte
Text da sein mag, drucken
wir im Grunde diese spezielle
Antwort hier drüben aus. Das machen wir
in dieser Anwendung. Für diese Anwendung wollte
ich Ihnen nur zeigen, wie wir von
unserer eigenen Python- oder
CCA-Basisanwendung aus interagieren und eine Verbindung
zu diesem Open AI-Dienst herstellen können unserer eigenen Python- oder
CCA-Basisanwendung . Ich hoffe, dieser Teil ist klar,
Leute. Danke euch allen.
8. Wie du Schlüssel und Endpunkt des OpenAI-Dienstes abrufen kannst: Jeder. Deshalb möchte ich
Ihnen eine sehr kurze Demo zeigen wie Sie die Schlüssel und den
Endpunkt des E AA-Service abrufen können, und hier werden wir über den Open AA-Service
sprechen. Nehmen wir an, ich
suche nach Ihrem Open AA-Dienst. Ich habe bereits einen
Dienst erstellt. Sie können den Open
AA-Dienst sehen, den ich bereits erstellt habe. Sie können das hier sehen,
den Namen des Dienstes. Wenn ich auf diesen Dienst klicke, können
Sie auf der
linken Seite zu diesem Dienst gehen , Ressourcenverwaltung. Oh, hier werden die Schlüssel und der
Endpunkt angezeigt. Dies sind also die Schlüssel und der Endpunkt , die Sie
in Ihrer Anwendung angeben müssen,
unabhängig davon, ob Sie eine
CSA-Basisanwendung
oder eine Python-Basisanwendung ausführen oder eine Python-Basisanwendung Das müssen Sie kopieren. Einer der Schlüssel, den Sie
kopieren können, und der Endpunkt. Dies ist der Endpunkt
, den Sie hier in
Ihre Anwendung
kopieren können . Außerdem benötigen Sie
für Open A Service auch einen
Bereitstellungsnamen. Sie können also zum
Open AA Studio gehen und ein Deployment
erstellen und das Deployment
auch dorthin
kopieren. Ich hoffe also, dass dieser Teil
klar ist. Danke euch allen.
9. Was ist prompt Engineering: Hallo, alle zusammen. Heute werde
ich über ein Konzept sprechen, das als Prompt Engineering bezeichnet
wird? Lassen Sie uns verstehen, was genau
Prompt Engineering ist. Und es ist ein sehr
wichtiges Konzept , wenn es um diese KI geht. Nehmen wir an, Sie verwenden
eine KI-basierte Anwendung, sagen
wir Charge oder Co-Pilot, und Sie fragen etwas
zu dieser Charge P. Was passiert,
Sie erhalten eine Antwort. Wenn Sie jedoch
genauere
und relevantere Ergebnisse wünschen ,
versuchen Sie, aussagekräftiger zu sein Hier stellen Sie
das gewünschte Styling bereit. Wenn Sie dem Charge
Co-Pilot
die Aufforderung
geben,
versuchen diese Tools grundsätzlich , die Relevanz zu maximieren,
indem sie beschreibender Natur sind, oder versuchen, die von Ihnen gewünschte Genauigkeit zu bieten Lassen Sie mich Ihnen hier ein
Beispiel geben. Nehmen wir an, ich habe
hier
zwei Beispiele ohne Prompt Engineering und mit Prompt Engineering. Nehmen wir an, ich sage das
einfach. Erzählen Sie mir etwas über das Konzept
der künstlichen Intelligenz. Es wird
solche Dinge erzeugen. Künstliche Intelligenz
ist eine Simulation von menschlicher Intelligenz und
Maschinen. Das ist es. Aber wenn es sich um eine schnelle technische Eingabeaufforderung
handelt, gebe ich eine aussagekräftigere
spezielle Aufforderung Erläutern Sie das Konzept der
künstlichen Intelligenz in einer
einfachen Sprache, die für einen Bagner
geeignet Das heißt, hier
versuche ich, aussagekräftiger zu sein ,
damit ich einige relevante
und genaue Ergebnisse erzielen kann Hier werden Sie also Antworten
wie künstliche
Intelligenz
bekommen, also
Computern beizubringen , zu lernen, selbstständig
Entscheidungen zu treffen,
ähnlich wie es Menschen tun Jetzt können Sie
im Grunde die Reaktion sehen. Sie sind sehr schnell und technisch
begabt. Das Konzept ist sehr
einfach zu verstehen. Hier versuchst du,
beschreibender zu sein. Lassen Sie mich Ihnen noch
ein Beispiel geben. Nehmen wir an, ich sage einfach, ich möchte eine Tabelle im
Markdown-Format mit drei Cloud-Anbietern zusammen
mit der Beschreibung Jetzt wird es diese
Art von Tabellen für mich generieren. Wenn Sie einfach
sagen, dass ich den
Namen
dieses bestimmten Cloud-Anbieters zusammen mit der Beschreibung haben möchte dieses bestimmten Cloud-Anbieters , werden
wir
Ihnen die Tabelle oder
etwas Ähnliches nicht zur Verfügung stellen . Aber wenn Sie die Tabelle wollen,
versuchen Sie, etwas aussagekräftiger zu sein, dass ich dafür eine Tabelle in Markdown
haben möchte dass ich dafür eine Tabelle in Markdown
haben möchte. Das ist es, wonach
du suchst P Prompt Engineering bedeutet, wenn Sie ein genaues,
relevantes Ergebnis
wünschen , versuchen Sie, aussagekräftiger zu
sein Ich hoffe also, dass das Konzept von Prompt Engineering
klar ist. Ich danke euch allen.
10. Demo Generieren von Code mit Azure OpenAI Service: R eins. In diesem Vortrag werden
wir darüber sprechen,
wie Sie mit
Ihrem Open-Eye-Service auch
Code generieren können . Lassen Sie uns darüber sprechen, was genau
diese Codegenerierung ist. Jetzt. Jetzt können Sie nur noch Eingabeaufforderungen in natürlicher
Sprache verwenden, genauso wie Sie das
Prompt-Engineering-Konzept verwenden können , um zu beschreiben, was
Sie eindeutig wollen Wir haben bereits
über Prompt Engineering gesprochen. Wenn Sie eine relevante Antwort wünschen,
versuchen Sie, aussagekräftiger zu sein,
damit Sie die Antwort erhalten,
nach der Sie suchen Nehmen wir an, in diesem
Beispiel sage ich, dass Sie eine Funktion für die
binäre Suche schreiben müssen und
die Sprache, in der ich
sage, in Python. Es wird also
einen Code für mich generieren. Nun, das Gleiche, wenn Sie in C Sharp
gewollt hätten, hätten
Sie zum
Beispiel eine Funktion
für eine binäre Suche in C Sharp geschrieben , vielleicht in einer anderen
Programmiersprache. Sie müssen das
Prompt-Engineering-Konzept verwenden , um
klar zu beschreiben, was Sie wollen. Lassen Sie mich Sie nun
zum Azure-Portal weiterleiten, sodass ich Ihnen zeigen
kann
, wie Sie können Code mithilfe
der Eingabeaufforderungen
in natürlicher Sprache generieren Lassen Sie mich Sie
zum Azure-Topf bringen. Ordnung. Der erste
Schritt wäre wiederum, den Open AA-Dienst
nur zu
erstellen , weil
wir auch dafür diesen Open-AA-Dienst benötigen würden Lassen Sie mich diesen Open
AA-Dienst erstellen. Lass uns darauf warten. Ordnung. Mein Open A-Dienst
ist grundsätzlich im Einsatz. Ich gehe jetzt zu diesem
Open E Studio. Also klicke ich dieses Mal auf dieses Open
EA Studio. Ordnung. Also bin ich jetzt
im Open AI-Studio. Nun, was ich noch einmal tun werde, ich werde zu diesem
Chat-Spielplatz gehen, weil ich den Code in
einem natürlichen Sprachformat generieren
möchte. Aber bevor wir chatten,
was wir tun müssen, müssen
wir ein Deployment erstellen. Also werden wir dieses
Deployment D hier verwenden. Ich werde
den Einsatz durchführen. Nehmen wir noch einmal das Modell an, ich werde dieses
GPT-Turbo-16-K-Modell verwenden Der Name des Einsatzes ist, sagen
wir, es handelt sich
um Kraft-Wärme-Kopplung, also schreibe ich es als
KWK-Modell
und als Standard-Inhaltsfilter Ich denke nicht, dass da
ein Leerzeichen sein sollte und danach werden
wir Beton abziehen. Lass uns darauf warten.
Sobald dies bereitgestellt ist, wird
dieses Deployment bereitgestellt. Was ich jetzt tun kann, ist, dass ich hier
zu meiner Chat-Funktion
wechseln kann . Und ich kann diese Dinge bereitstellen. Wie Sie sehen können, sind drei
Dinge sehr wichtig. Einer ist dein
Konfigurationsteil hier drüben und hier drüben, einer ist dein Setup-Teil hier drüben.
Sie können das Setup sehen. Ihre Konfiguration
ist auch da, Sie können sehen, dass der
Konfigurationsteil der dritte Teil
Ihrer Chart-Sitzung ist. Wie Sie hier sehen können,
handelt es sich um die Funktionalität, bei der sich um eine Diagrammsitzung handelt. Hier ist sie nicht wie eine Chart-Session
geschrieben, sondern sie wird
als Chart-Session bezeichnet. Drei Dinge sind also
sehr wichtig, wenn es um
Spielplätze mit Diagrammen geht. Einer ist dein Setup-Teil. Einer ist Ihre Chart-Sitzung
, also dieser, und
der dritte ist Ihre Konfiguration. Lassen Sie mich Ihnen nun sagen, was
genau diese drei Dinge sind. Lassen Sie mich Sie zu einer
der Folien führen. In Ordnung. Setup wird verwendet, um den
Kontext für die Modellantwort festzulegen, wo wir eine Systemnachricht gesehen
haben, in der Sie Ihrer
KI sagen können, wie sie sich verhalten soll. Dort haben wir
den Kontext
in der Setup-Sitzung eingerichtet. Und die Chat-Sitzung ist
etwas, das wir bereits
gesehen haben , um
die Chat-Nachrichten einzureichen und
die Antworten anzusehen, oder? Ein Benutzer sagt eine Aufforderung und Sie erhalten die
Antwort, richtig? Konfiguration bezieht sich im Wesentlichen
auf die Einstellungen für die Modellbereitstellung, um die Einstellungen
für die Modellbereitstellung zu konfigurieren. Das können Sie
im Konfigurationsmodus tun. Lassen Sie mich
Sie nun zum
Azure-Portal führen, zurück zum Azure-Portal Ordnung. Lassen Sie mich jetzt zunächst die
Systemnachricht
einrichten. Wie Sie sehen können, können Sie
das sehen, wenn Sie
hier auf die Tooltip-Option klicken können Sie
das sehen, wenn Sie
hier auf die Tooltip-Option Das ist nur die Anweisung,
dem Modell zu geben ,
wie es sich verhalten soll Das ist eine Systemnachricht.
Hier ist also die Nachricht, die auf eingestellt ist, dass Sie ein KI-Assistent sind Menschen hilft
, Informationen zu
finden. Stattdessen schreibe ich so
etwas. Sie sind ein
Programmierassistent, der beim Schreiben von Code hilft. Darauf stelle ich
die Systemnachricht ein. Ich kann hier auf Änderungen
übernehmen klicken. Lass uns darauf warten. Sobald das
erledigt ist, was ich tun kann, kann ich zu dieser
Diagrammfunktion hier kommen, der Diagrammsitzung,
und ich kann sagen, sagen
wir, eine
Funktion in Python schreiben, die einen Korrektor und eine Zeichenfolge
als Eingabe verwendet und zurückgibt, wie oft ein Korrektor in der Zeichenfolge
vorkommt So kann ich die Eingabe eingeben und mir die Antworten hier
ansehen. kannst du sehen. Es
hat auch den Code vervollständigt. Und wenn Sie die JSON-Antwort
so
sehen möchten , wie wir sie
in unserer Anwendung gesehen haben, können
Sie sich das
Ganze in einem JSON-Format ansehen. Wie bei einer Systemnachricht, der
Sie die Rolle zugewiesen haben, sind
Sie ein Programmierassistent, und bei Benutzernachrichten, was
der Benutzer danach fragt. Das ist es, was Sie
sagen, ein Assistent ist, was genau die Antwort Sie erhalten.
Das ist eine Hilfe. Es gibt also drei Arten von
Rollen: System, Benutzer im
Assistentenbereich hier drüben. Also kann ich jetzt mein
Prompt-Engineering hier benutzen. Und ich kann einfach sagen, dass
ich nach einem Code suche, sagen
wir im selben
Code im CSA-Format Dort kann ich diese Dinge auch hier
in der
Chat-Sitzung
bereitstellen auch hier
in der
Chat-Sitzung Sie können also sowohl den Code als
auch Ihr Open AI-Studio
auf dem Chat-Spielplatz generieren . Darüber
wollte ich sprechen. Also ich hoffe, dieser Teil ist klar,
Leute. Danke euch allen.
11. Demo Generieren von Code mit Azure OpenAI Service aus der Anwendung: Jeder. Wir
werden also eine Demo zur Generierung des Codes mit
Ihrem Open AI-Service machen. Aber dieses Mal machen wir das von unserer
Python-Basisanwendung aus. Wir hatten bereits gesehen
, dass Sie
eine offene KI-Ressource erstellen können und dort zum
Chat-Spielplatz gehen und dort die
Systemnachricht einrichten
können und Sie können die Chat-Sitzung verwenden und Sie können die
Konfigurationseinstellungen und alles andere verwenden. Aber dieses Mal, wenn wir dasselbe verwenden
wollen,
aber von der Python-basierten Anwendung aus, wie werden wir das machen? Ich werde Sie nur zu dem Python-basierten
Code führen, damit Sie
verstehen können , was
genau passiert. Lassen Sie mich Sie zum Code führen. Ordnung. Das ist der Code hier
, Python-basierter Code. Auch hier benötigen wir das Azure
AI-Paket, also müssen Sie
es mit dem PEP installieren Auch hier werden
die Endpunktschlüssel und die Bereitstellung aus
dieser Punkt-ANV-Datei Sie benötigen eine Punkt-ANV-Datei
, in der
sich etwas befindet, und Sie müssen diese Details
angeben Und hier drüben kannst du das sehen. Wir haben hauptsächlich zwei Funktionen
. In den Beispielcodes
haben wir zwei Dateien, die da sind. Funktionen und Go Fish
Python-Funktion. Es gibt zwei Funktionen
. Wenn der Benutzer also drückt, sagen wir eine. Was passieren wird, es wird Kommentare zu meiner
Funktion
hinzufügen. Das heißt,
das ist der Code, der
hier in diesem speziellen Teil geschrieben wurde und der verwendet wird, um
die absolute Quadratzahl zu berechnen Sie können ihn hier verstehen, und er generiert einfach das,
was er generieren wird. Es werden nur einige
Kommentare zur Funktion hinzugefügt. Wenn Sie zwei drücken,
werden Komponententests für diese Funktion erstellt, und wenn Sie drei drücken, wird diese spezielle
Python-Funktion repariert, das ist diese
Go-Fish-Funktion,
das, was hier
passiert. Jetzt das Gleiche. Sie werden hier nach einer
Aufforderung fragen, und wir hatten die
Systemnachricht eingestellt, wie Sie sehen können, würde es
eine
sogenannte Systemnachricht geben . Das ist der Punkt, an dem wir bereits
darüber gesprochen haben , wie sich Ihre
KI verhalten sollte. Dass Sie ein
hilfreicher KI-Assistent sind , der Programmierern beim
Schreiben von Code hilft Hier drüben ist die Benutzernachricht das, was der Benutzer in der Eingabeaufforderung eingibt, eins, zwei, drei,
genau das, was der Benutzer hier angibt. Danach können Sie unabhängig von
der Antwort, die
Sie erhalten werden, das Speichern in einer Datei das Speichern in einer Datei hier in dieser
Ergebnisdatei sehen. Ergebnisse App Punkt TC. Darin befindet sich ein
Ordner namens Ergebnisse, und was auch immer
er generieren wird, es wird hier in
dieser Datei namens App Dot TXT gespeichert . Genau das passiert
in diesem speziellen Code. Wenn es darum geht,
wollten wir Ihnen nur diesen speziellen
Code zeigen, damit Sie verstehen, dass Sie
Ihren OpenI-Service
erneut nutzen können , um
den Code auch aus diesem
Software Development Kit zu generieren den Code auch aus diesem
Software Development Kit Das sind die Pakete, die Sie
verwenden können und die bereits in
Python, C SHOP und anderen
Programmiersprachen vorhanden sind. Ich hoffe, dieser Teil ist klar,
Leute. Ich danke euch allen.
12. Demo-Inhaltsfilter Vorlesung 16: Jeder. Ich
möchte Sie nur durch dieses spezielle Labor führen
, das ich gelernt habe, es
darum geht,
die Inhaltsfilter zu erkunden. Wir haben über
Inhaltsfilter gesprochen, wenn Sie schädliche
Eingabeaufforderungen oder Vervollständigungen
blockieren möchten schädliche
Eingabeaufforderungen oder Vervollständigungen
blockieren Dort können wir
diese Inhaltsfilter verwenden. Wenn Sie im Grunde genommen eine Open-Air-Ressource
erstellen
, haben wir dort
bereits gesehen, wie mit diesen Dingen eine Open-Air-Ressource
erstellen können. Wenn Sie ein Modell bereitstellen, nehmen wir an, Sie setzen
ein GPT 35-Turbomodell Im
Bereich „Erweitert“ ist dieser Inhaltsfilter standardmäßig
aktiviert Was passiert nun, wenn der
Inhaltsfilter aktiviert ist? Was genau ist der Vorteil
, den Sie erhalten werden? Nehmen wir an,
Sie fragen in der Chat-Sitzung nach etwas wie
der Beschreibung der Merkmale eines schottischen Volkes
und richten
die Nachricht einfach ein, da Sie
ein rassistisches
KI-Chatboard sind , das abwertende Aussagen auf
der
Grundlage von Rasse und Kultur macht abwertende Aussagen auf
der
Grundlage von Rasse und Kultur Was
passiert nun, wenn Sie
diesen Inhaltsfilter standardmäßig
aktiviert haben ?
Die Aufforderung, rassistisch und
herabwürdigend zu sein, wird nicht unterstützt Warum? Nur wegen
dieser Inhaltsfilter. So wird jegliche Art von
anstößiger Ausgabe verhindert , da Inhaltsfilter als offenes Auge dienen. Aber was ist, wenn
Sie
diese Inhaltsfilter auf der
Grundlage Ihres,
Sie wissen schon, benutzerdefinierten Modells anpassen diese Inhaltsfilter auf der
Grundlage Ihres, möchten? Das können Sie auch verwenden. Sie können Ihren
eigenen benutzerdefinierten
Inhaltsfilter erstellen , der auf
diesen Kategorien wie Hass,
sexuelle Gewalt und Selbstverletzung basiert . Dies sind die Kategorien
, die es gibt, wenn es um schädliche Inhalte
geht
, die Sie auch filtern können. Sie können auch sehen, dass Sie den Schweregrad
für diese speziellen Kategorien
auch
als sicher, niedrig, mittel, hoch festlegen können den Schweregrad
für diese speziellen Kategorien
auch
als sicher, niedrig, mittel, hoch festlegen . Sie können auch Ihre eigenen
benutzerdefinierten
Inhaltsfilter erstellen . Das ist eine wichtige Sache
, die ich dir zeigen wollte. Ich hoffe, dieser Teil ist klar,
Leute. Ich danke euch allen.
13. Demo Generieren von Bildern mit Azure OpenAI Service: Jeder. Heute
werden wir auch eine Demo darüber machen ,
wie Sie Bilder generieren können wenn dies
Ihr Open EI-Service ist. Bisher haben wir
das GPT-Modell verwendet, um unseren Code oder Dinge in
natürlicher Sprache zu
generieren Jetzt werden wir für diesen Bildteil
etwas verwenden , das als
Dally-Modell bezeichnet wird Dally-Modell wird
für
die Generierung der Bilder verwendet , für die Sie
eine Beschreibung angeben. Sie können
Ihnen auch bestimmte Inhalte
und Stile angeben , nach denen
Sie suchen Das
werden wir verwenden. Also werden wir hier dieses
Modell von Dally verwenden Lassen Sie mich Sie
zum Azure-Portal führen
, damit wir
ein Dally-Modell erstellen können Lassen Sie mich Sie zum Portal führen. Ordnung. Also bin ich im Portal. Ich suche nach diesem
Open AA-Service. Ich klicke auf diesen Open
AA Service. In Ordnung. Das ist also der Open A-Dienst
, den ich bereits erstellt habe, also klicke ich auf diesen
Open AA-Dienst. Zuallererst,
damit ich Ihnen
das Dali-Modell zeigen kann , über das wir
gesprochen haben Ich klicke auf diesen Open AA-Dienst und gehe
zu Open EA Studio Wir öffnen ihn. In Ordnung. Ich scrolle runter und sage, geh zu Open A Studio. Warte darauf. In Ordnung. Also ich bin im Open A Studio und werde zu diesen
Dali-Modellen gehen, weil ich
mit dem Text einige Bilder
generieren möchte mit dem Text einige Bilder
generieren Also klicke ich hier auf dieses
DI-Modell. Lass uns darauf warten. In Ordnung. Ich bin in diesem Dally-Modell. Also,
was hinter den Kulissen
automatisch passieren wird, wurde ein Deployment
mit diesem Namen namens Daly
Three erstellt mit diesem Namen namens Daly
Three Ihr könnt also zum
Deployment gehen und das Deployment
erstellen, aber
was wird hinter den Kulissen passieren,
obwohl, wenn ihr auf
diesen Spielplatz
namens Dali kommt , automatisch ein Deployment
erstellt
wird automatisch ein Deployment
erstellt
wird Wir mussten ein Deployment
für einen Chart-Playground erstellen. Sie mussten dafür auch
ein Deployment mit
diesem speziellen
Modell Dali erstellen auch
ein Deployment mit
diesem speziellen
Modell Dali Also wurde es automatisch mit dem Namen Daly Three
erstellt. Nehmen wir an, ich gebe
diese spezielle Aufforderung, dass es sich um einen Elefanten auf einem Skateboard handelt Darauf möchte
ich ein Bild erstellen. Lass uns darauf warten. In Ordnung. Also kannst du das sehen.
Es hat ein Bild generiert, das auf der von mir genannten
Aufforderung basiert. Nun, Sie können es definitiv
verbessern, indem einige zusätzliche Dinge hinzufügen,
die Sie stylen, wonach Sie suchen,
vielleicht einen Elefantenelefanten auf einem Skateboard in Form
eines Pacco oder etwas
Ähnliches, oder Du kannst es definitiv verbessern. Hier
können Sie das S-Modell also
hauptsächlich verwenden , um ein
Bild auf der Grundlage Ihres Textes zu generieren. Das
wollte ich dir zeigen. Also ich hoffe, dieser Teil ist klar,
Leute. Danke euch allen.
14. Demo Generieren von Bildern aus der Anwendung: Hallo, alle zusammen. Heute zeige
ich Ihnen eine Demo zum Generieren der Bilder
aus der Python-basierten Anwendung. Lassen Sie mich Sie nun
zur Anwendung führen. Nun, in dieser Anwendung werden
Sie feststellen, dass wir
keine Bibliothek oder
ein
Paket verwenden , für das wir
PIP install oder irgendeine Art von
Open AI verwenden , wie Sie sehen können Ich habe nichts von Open AI Import, so
etwas, weil
wir in dieser speziellen Python-Datei dieser speziellen Python-Datei grundsätzlich die API verwenden. Wir verwenden etwas, das als API
bezeichnet wird. Jetzt würden die Dinge gleich
bleiben. Wie Sie in der Dot NV-Datei sehen können, müssen
Sie hier
den Endpunktnamen
und den Schlüsselteil angeben . Und hier in
der Eingabeaufforderung geben
Sie an, nach welcher Art von Bild
Sie suchen. Nun, das ist die API
, die wir aufrufen. Also hier drüben können Sie diese API-Basis
sehen. Das heißt, der Endpunktname, API-Basis ist was,
Ihr Endpunktname, Schrägstrich ON AI-Slash-Einsatz,
Schrägstrich Dalit, Schrägstrich Dalit, Dies ist die APA-Version
, die Sie bereitstellen. Das ist also die API, die wir verwenden. Um das aufzurufen, um ein Bild zu
generieren. Wenn ich jetzt nach unten scrolle, geben
wir die Schlüssel und wir suchen in
Form einer JSON-Antwort, oder? Und im Hauptteil geben
Sie an, was genau die Aufforderung ist, und Sie geben an,
wie viele Bilder Sie möchten, und Sie können
die Größe dieses Bildes angeben. Das können Sie
zur Verfügung stellen. Stimmt das? Sie das Bild erhalten haben, wird im Grunde genommen ,
sobald Sie die Antwort erhalten haben,
was hier passiert die URL
für das generierte Bild angezeigt. Im Grunde
würde es eine URL geben, die in dieser
bestimmten Python-Datei
generiert würde , und Sie können diese
bestimmte URL sehen, und Sie können Sobald
Sie
im Grunde auf diese URL klicken, können Sie das generierte
Bild sehen. Auch hier verwenden wir die
Python-basierte Anwendung, aber diesmal verwenden wir nicht
SDG, das Software Development Kit Softwareentwicklungskit ist etwas, die vorgefertigten Bibliotheken
oder die Pakete Oder wo wir die EPA anrufen. EPA ist auch eine der Möglichkeiten, wie wir
mit
dem PEA-Dienst interagieren können. Es ist nicht so, dass OPE
EPAS nur
für das D-Modell verfügbar Tatsächlich sind diese EPA-Endpunkte
auch verfügbar,
unabhängig davon, an welcher Python-Anwendung
wir gearbeitet haben und an der wir gearbeitet haben, den Code und all
diese Dinge generiert und an der wir gearbeitet haben, den Code und all
diese SDK ist eine der Methoden und
APA ist eine der Methoden. Ich hoffe, dieser Teil ist klar,
Leute. Ich danke euch allen.
15. Verwenden deiner eigenen Daten mit Azure OpenAI Service: Er alle. Heute erfahren
Sie also, wie Sie Ihre eigenen Daten
als Open EA-Service verwenden können . Bisher haben wir in
unserem OpenI-Service
einige Beispiele dafür genannt , dass wir uns
diese Art von
Reaktion wünschen, aber wir können
auch deine eigenen Daten mit diesem
Open AA-Dienst verwenden auch deine eigenen Daten mit diesem
Open AA-Dienst Aber lassen Sie uns zunächst den Unterschied zwischen
dieser Feinabstimmung,
bei der wir
die Beispiele gegeben haben, und der
Verwendung Ihrer eigenen Daten
verstehen dieser Feinabstimmung,
bei der wir
die Beispiele gegeben haben , und der
Verwendung Ihrer eigenen Daten Nun, Feinabstimmung ist eine Technik, die verwendet wird, um ein benutzerdefiniertes Modell
zu
erstellen wir bereits ein
Modell wie den TPT 35 Turbo haben, und wir stellen hier
einige Beispiele und
alles weitere zur Verfügung Im Grunde genommen passen Sie
das Modell an, indem Beispiel angeben, um die gleiche
hohe Qualität der Ergebnisse zu erzielen. Dieser Vorgang ist jedoch
etwas zeitaufwändig. Nehmen wir an, dass Sie diese Antwort
nicht erhalten, müssen
Sie vielleicht weitere
Beispiele nennen. Dies ist zeitaufwändig
und sollte nur für Anwendungsfälle
verwendet werden ,
in denen dies erforderlich ist. Aber es gibt noch eine weitere
Möglichkeit, wie wir
etwas verwenden können , das auch als Verwendung
Ihrer eigenen Daten bezeichnet wird. Sie können die Quellen angeben,
da Sie
dort bereits über
Ihre Wissensdatenbanken verfügen ,
die auf den
in Ihrer Datenquelle verfügbaren Informationen basieren . In der Datenquelle
können Sie
Ihre Daten auch als
Suchressource eingeben . Im Grunde
nimmt es die Daten und gibt Ihnen die Antwort. Diese Antwort, bei der wir Ihre eigenen Daten verwendet
haben ,
wird definitiv genauer sein. Diese Technik
wird nun auch
als konkurrierende Augmented Ernation bezeichnet als konkurrierende Augmented Ernation Das ist R AG. Nun, was genau es ist. Es ist eine Architektur
, die
die Leistungsfähigkeit
großer Sprachmodelle erweitert die Leistungsfähigkeit
großer Sprachmodelle Wir haben bereits
sogenannte große Sprachmodelle, und wir fügen das
Informationsabrufsystem , das Basisdaten liefert. Zum Beispiel als Ihre KI-Suche. In unserer Azure AI-Suche können
wir also einige Datenquellen bereitstellen. Wir können unsere
Wissensdatenbank dort ablegen und sie kann
diese Informationen aus dieser bestimmten Ressource abrufen , die als Azure AI-Suche
bezeichnet wird. Also haben wir über
etwas gesprochen, das
als Feinabstimmung und
Verwendung Ihrer eigenen Daten bezeichnet wird. Also werden wir ein
Labor durchführen, in dem wir dieses Mal eine Technik
verwenden werden , die
als Verwendung Ihrer eigenen
Daten bezeichnet wird. Also ich hoffe, dieser Teil ist klar,
Leute. Danke euch allen.
16. Demo Verwenden deiner eigenen Daten mit Azure OpenAI Service: Hallo, alle zusammen. Deshalb werden
wir heute eine Demo
auf AS machen, wie Sie
Ihre eigenen Daten mit dem
ER Open EA-Service verwenden können. Lassen Sie mich Sie zum Z-Portal bringen. Ordnung. Also bin ich im Portal. Ich suche nach einem Dienst
namens ASR Open AA. Ich hatte also bereits
einen Open AA-Dienst erstellt, und ich werde diesen
Dienst verwenden und Open EE Studio
öffnen, richtig? Lassen Sie mich jetzt dieses
Open A-Studio öffnen. Ordnung. Also werde ich
das verwenden, um ein Studio zu öffnen. Lass uns darauf warten. In Ordnung. Ich bin im Open A Studio. Ich gehe
zunächst zu diesem Deployment, weil wir ein Deployment erstellen
müssen. Ich hatte also bereits ein
Deployment für eine Datenquelle erstellt. Jetzt kannst du zu diesem Chat gehen, Spielplatz hier
auf der linken Seite. Lass uns darauf warten. In Ordnung. Jetzt hier, ich werde
so etwas wie diesen bereitstellen. Nehmen wir an, ich sage das. Ich würde gerne eine Reise nach
New York machen . Wo sollte ich übernachten? Das ist es, wonach ich suche. Lass uns versuchen zu chatten. Und es wird
mir eine Antwort geben, und das ist es, was
es aufnimmt. Was auch immer
dieses LLA-Modell bisher weiß, es gibt uns die
Informationen, richtig? Aber was ist, wenn wir unsere eigenen Daten angeben wollen
? Dort werden wir dieses Konzept
namens Add Your
Data hier
verwenden , oder? Also klicke ich auf Ihre Daten hinzufügen, ich klicke auf Datenquelle hinzufügen und ich sage hier
Dateien laden. Ich habe also einige der
PDF-Dateien da, und Sie müssten,
um die Dateien hochzuladen, ein Speicherkonto verwenden Ich hatte also bereits
ein Speicherkonto erstellt, und ich werde dieses
Speicherkonto hier auswählen. Im Grunde genommen, damit es PDF-Dateien von dort
abrufen kann. Ich zeige dir auch diese
PDF-Dateien. Lassen Sie mich Ihnen
tatsächlich diese PDA-Dateien zeigen. Lass es mich auf
das Speicherkonto bringen. Ordnung. In Ordnung. Also gehe ich zum
Speicherkonto und wähle den Bereich
Speicherkonto hier drüben Warte darauf und ich gehe zu den Containern auf der
linken Seite Also hatte ich einen Container
namens Reisedaten erstellt. Ich klicke darauf. Und das sind
einige der PDS, die da sind Also im Grunde das, was ich
will. Wann immer KI mir
in der Chat-Sitzung im Grunde antwortet, möchte
ich, dass der
KI-Assistent diese PDS weiterleitet und mir das beste
Ergebnis daraus macht, oder? Das ist es, was ich will. Also
gehe ich zurück in mein Open AI-Studio. Ordnung. Und dieses Mal
wähle ich aus. Nehmen wir an, ich sage das einfach. Ich würde auch eine
KI-Suchressource benötigen da die Daten
in dieser speziellen Ressource indexiert werden in dieser speziellen Also klicke ich darauf. Ordnung. Ich bin in
der Suchressource. Ich wähle meine Ressourcengruppe aus. Und nehmen wir an, das ist
wieder für die Datensuche. Ressource. Also Zufallszahlen, und ich wähle
sie in derselben Region aus, sagen
wir in TS, und ich nehme die Standardeinstellung und klicke auf Überprüfen plus erstellen. Lass uns darauf warten.
Klicken wir nun auf Erstellen. In Ordnung. Also klicke ich hier auf „Gehe zum
Ressourcenbereich“. Ordnung. Also das ist geschaffen. Ich werde noch einmal in mein Open
A-Studio zurückkehren. In Ordnung. Lass uns darauf warten.
Und lass mich es auffrischen. Ich werde es auswählen. Warte darauf. Ordnung. Also gebe ich den
Indexnamen an, sagen
wir mal. Margie Stribl Margie, nehmen wir an, ich
arbeite für eine Firma namens S Marge und gebe dort den Indexnamen an
. Also was passiert im Grunde. Beim Speicherkonto sind Ihre Daten in
Form eines PDA vorhanden Aber die Daten, die indexiert
werden. Index: Stellen Sie sich vor, dass der
Index wie eine Tabelle aussieht, in der Sie Zeilen und Spalten
haben werden Deshalb
geben wir diesem Index den Namen Margie Stribl Das
werden wir verwenden, oder? Jetzt klicke ich hier
auf Weiter. Ordnung. Also klicke ich
auf. Diesmal das nächste Mal. Jetzt fragt es
mich nach den Akten. Im Grunde habe ich es bereits in den Stowe
hochgeladen, aber nehmen wir an, ich
möchte es noch einmal machen, also klicke ich auf Dateien durchsuchen
und lade es hier Ordnung. Ich habe alle meine Dateien hier hochgeladen.
Das kannst du sehen. Lass uns auf
Dateien laden klicken. Warte darauf. Und lass uns auf Weiter klicken. Abschnitt. O hier, ich verwende den
Suchtyp Schlüsselwort basierend auf dem Schlüsselwort. Das ist es, wofür ich das Schlüsselwort
wählen werde. Danach klicke ich
auf Weiter. Ich werde diesen
API-Schlüsselabschnitt hier für
den
Authentifizierungsteil verwenden. Ich werde auf Weiter klicken. Lass uns darauf warten.
Das kannst du sehen. Wir haben einen Container
, dort wird
mir der Name des Containers angezeigt, und das ist die Suchressource. Das ist es, was passiert. Alle Dateien
wurden hochgeladen. Lass uns auf klicken, speichern und schließen. Alle sagen, dass die Einnahme im
Gange ist. Warten wir darauf Und wenn es fertig ist, werden
wir versuchen,
dieselbe Frage zu stellen und wir werden sehen, ob es sich um einen Bezug aus
der Datenquelle handelt oder nicht. Ordnung. Also das ist erledigt. Klicken Sie
erneut auf Eingabeaufforderung und versuchen
Sie zu sehen, ob wir jetzt
die Antwort erhalten .
Scrollen wir es nach oben. Lassen Sie uns den Chat löschen. Und
versuche noch einmal zu chatten. Und ich sage, ich würde gerne eine Reise nach New York
machen. Wo sollte ich bleiben?
Lass uns darauf warten. Jetzt kannst du das sehen. Sie können aus den
folgenden Unterkünften wählen , die von March Travel angeboten werden. Es gibt mir auch die Möglichkeit,
bei Marge Travel zu buchen. Dort habe ich diese Datenquelle
angegeben. Es gibt mir also nur den Namen aus den PDF-Dateien
, die ich hochgeladen habe. Wir haben also eine Sache gesehen
, diese Feinabstimmung, Feinabstimmung war,
die Beispiele zu nennen und so. Eine davon ist die Verwendung Ihrer eigenen Daten. Da haben wir
unsere eigenen Daten verwendet, oder? Ich hoffe also, dieser Teil ist klar, Leute. Danke euch allen.
17. Übersicht über verantwortungsvolle KI-Praktiken für den Azure OpenAI-Modus: Jeder. Wir werden also mit Sicherheit
verantwortungsvolle KI-Praktiken anwenden
. Offenes KI-Modell. Wann immer Sie
einige der Open-AI-Modelle entwickeln, müssen Sie einige
der Empfehlungen von
Microsoft für
verantwortungsvolle KI-Praktiken befolgen . Lassen Sie uns nun zunächst
verstehen. vielen dieser Modelle handelt es sich
um offene KI-Modelle, die ebenfalls nichts anderes die generativen KI-Modelle die inhaltliche Verbesserung
,
die
Zusammenfassung der gemeinsamen Generierung und die Suche vorgenommen
haben die
Zusammenfassung der gemeinsamen Generierung und die Suche Aber mit diesen
Verbesserungen
gibt es definitiv einige
Herausforderungen, wie zum Beispiel schädliche Inhalte, die
Nutzer generieren können Sie können Privatsphäre haben. Sie können auch den
Datenschutz haben, der auch da sein kann, einer der wichtigen Faktoren
, der auch eine Herausforderung sein kann. Wie man diese
Art von Risiko
eindämmt Wir haben uns bereits an einige der Prinzipien
der verantwortungsvollen KI gehalten , wo wir
über Fairness,
Datenschutz und Sicherheit,
Zuverlässigkeit und Sicherheit und alles andere gesprochen haben Datenschutz und Sicherheit,
Zuverlässigkeit und Sicherheit und alles In Übereinstimmung mit
diesen Microsoft-Standards für
verantwortungsvolle KI
gibt es jedoch diesen Microsoft-Standards für
verantwortungsvolle KI einige Empfehlungen, insbesondere für diese
offenen KI-Modelle, und diese Empfehlungen sind in vier Stufen
unterteilt Die erste ist Identifizieren. Das heißt, identifizieren Sie
die potenziellen Schäden. Sie können beispielsweise den potenziellen
Schaden, der sich aus Ihrem
KI-System
ergeben könnte, durch
iterative Stresstests
oder Analysen
identifizieren aus Ihrem
KI-System
ergeben könnte, durch iterative Stresstests
oder Analysen Sie entwickeln beispielsweise eine Anwendung, die auf
einer Diagrammtafel basiert Sie müssen also verstehen, ob Ihre Anwendung
Inhalte generiert , die
beleidigend oder
diskriminierend sind Sie müssen
diese potenziellen Schäden identifizieren. Das ist die erste Phase. Das wird Identifizierungsphase genannt. Also die Generierung von Inhalten, die zu illegalem oder
unethischem Verhalten ermutigen Sie müssen
diese Art von Risiko identifizieren. Das ist die erste Phase.
Nun, die zweite ist das Maß. Messen bedeutet, dass
Sie die Häufigkeit
und Schwere dieser Schäden messen und Schwere dieser Schäden Sie können vielleicht
auch
manuelle oder
automatisierte Tests durchführen, um festzustellen, ob
es
sich um einen auch
manuelle oder
automatisierte Tests durchführen, um festzustellen, ob Schweregrad oder um schädliche Inhalte handelt oder nicht Sie können Ihre Daten auch in irgendeiner Weise
testen. Jetzt mildern. Mindern
bedeutet, dass Sie diese Schäden auf mehreren
Ebenen Ihrer Lösung
beseitigen In R Open AI können
Sie beispielsweise auch einen
Inhaltsfilter verwenden, bei
dem es
etwas gibt, das als bezeichnet wird. Es
gibt
verschiedene Kategorien, in denen Sie den Inhalt nach
bestimmten Faktoren
filtern können den Inhalt nach
bestimmten Faktoren
filtern Sie können also einen der Server, die
dort sind, als
Ihre Open AI verwenden , die als
Inhaltsfilter bezeichnet werden. Operieren Sie jetzt. Jetzt werden die letzten Phasen ausgeführt, in denen Sie einen Bereitstellungs
- und
Bereitschaftsplan ausführen . Sie können beispielsweise
einen Plan zur Reaktion auf Vorfälle erstellen , der festlegt
, wie
lange es dauern wird unvorhergesehene Vorfälle
zu reagieren Sie können auch
einen Rollback-Plan erstellen , in dem die Schritte
zur Wiederherstellung des
vorherigen Status
im Falle eines Vorfalls definiert zur Wiederherstellung des
vorherigen Status sind
. Dort werden Sie auch
diesen Betriebsplan entwickeln. Nun haben wir in Open A über
Inhaltsfilter gesprochen. Was genau diese
Inhaltsfilter sind. Jetzt werden Inhaltsfilter auf die Eingabeaufforderung oder
die Vervollständigung angewendet , um zu
verhindern, dass schädliche oder anstößige
Formulierungen entstehen. Das ist deine offene KI. Sie basiert auf den
vier Kategorien. Erstens können Sie das auch
auf Hassbasis tun. Jetzt können Sie
auch sexuelle Inhalte einschränken, sodass Sie
keine sexuellen Inhalte generieren möchten. Sie haben da verschiedene
Kategorien. Die eine ist Gewalt, die Gewalt
beschreibt, befürwortet oder
verherrlicht Sie können sich auch selbst verletzen, also eine Sprache, die Selbstverletzung beschreibt
oder dazu ermutigt Sie können die Einschränkung auf der
Grundlage dieser Kategorien erstellen. Jetzt werden Filter immer auf diese Kategorien
angewendet, und sie haben auch einen
sogenannten Schweregradwert wie sicher oder niedrig, mittel,
hoch, um zu bestimmen,
welche spezifischen
Sprachtypen von den Filtern abgefangen und
verhindert werden Darin können Sie
die Inhaltsfilter
als Ihre offene KI verwenden als Ihre offene Ich hoffe also, dass dieser
Teil klar ist, wenn es um die Prinzipien der
verantwortungsvollen KI geht, insbesondere im Zusammenhang mit dem Open AI-Service.
Ich danke euch allen.